সরকারের কর্মকর্তারা ইলন মাস্কের সামাজিক মাধ্যম প্ল্যাটফর্ম X-কে গ্রোক (Grok) নামক প্ল্যাটফর্মটির কৃত্রিম বুদ্ধিমত্তা চ্যাটবট দ্বারা তৈরি "ভয়ঙ্কর" ডিপফেকগুলির বিস্তার নিয়ে পদক্ষেপ নেওয়ার জন্য চাপ দিচ্ছেন। X-এ বাস্তবসম্মত কিন্তু বানোয়াট অডিও এবং ভিডিও কন্টেন্টের উত্থানের পরেই এই দাবি জানানো হয়েছে, যা সম্ভাব্য ভুল তথ্য এবং সম্মানহানির বিষয়ে উদ্বেগ সৃষ্টি করেছে।

সরকারের উদ্বেগের কেন্দ্রবিন্দু হল গ্রোকের অত্যন্ত বিশ্বাসযোগ্য ডিপফেক তৈরি করার ক্ষমতা। ডিপফেক হল সিনথেটিক মিডিয়া যেখানে একটি বিদ্যমান ছবি বা ভিডিওতে থাকা কোনও ব্যক্তিকে অন্য কারও প্রতিচ্ছবি দিয়ে প্রতিস্থাপন করা হয়। বিনোদন এবং শিক্ষায় এই প্রযুক্তির সম্ভাব্য ব্যবহার থাকলেও, মিথ্যা গল্প তৈরি করতে, জনমতকে প্রভাবিত করতে এবং ব্যক্তিদের মানহানি করতে এটিকে অপব্যবহার করা যেতে পারে। প্রযুক্তি নিয়ন্ত্রণ বিভাগের একজন মুখপাত্র এক বিবৃতিতে বলেছেন, "গ্রোক যে গতি এবং দক্ষতার সাথে এই ডিপফেকগুলি তৈরি করতে পারে তা অত্যন্ত উদ্বেগজনক। আমাদের এই নিশ্চয়তা প্রয়োজন যে X ঝুঁকি কমাতে সক্রিয় পদক্ষেপ নিচ্ছে।"

X ২০২৩ সালের শেষের দিকে তার প্রিমিয়াম গ্রাহকদের জন্য গ্রোক চালু করে, যা ব্যবহারকারীর ব্যস্ততা বাড়ানো এবং সৃজনশীল সরঞ্জাম সরবরাহ করার জন্য ডিজাইন করা একটি বৈশিষ্ট্য। গ্রোক একটি বৃহৎ ভাষা মডেলের (LLM) উপর ভিত্তি করে তৈরি, যা এক ধরনের এআই। এটিকে বিশাল ডেটাসেটের টেক্সট এবং কোডের উপর প্রশিক্ষণ দেওয়া হয়েছে, যা এটিকে মানুষের মতো টেক্সট তৈরি করতে, ভাষা অনুবাদ করতে এবং বিভিন্ন ধরণের সৃজনশীল কন্টেন্ট তৈরি করতে সক্ষম করে। X ক্ষতিকারক কন্টেন্ট তৈরি করা থেকে আটকাতে সুরক্ষামূলক ব্যবস্থা বাস্তবায়ন করলেও, সমালোচকরা বলছেন যে ডিপফেক প্রযুক্তির ক্রমবর্ধমান পরিশীলিততার বিরুদ্ধে লড়াই করার জন্য এই ব্যবস্থাগুলি যথেষ্ট নয়।

এআই-উত্পাদিত ডিপফেকের উত্থান প্রযুক্তি শিল্প এবং নিয়ন্ত্রক সংস্থা উভয়ের জন্যই একটি বড় চ্যালেঞ্জ তৈরি করেছে। বিশেষজ্ঞরা সতর্ক করে বলছেন যে এই প্রযুক্তি ক্রমশ সহজলভ্য হয়ে উঠছে, যা দূষিত অভিনেতাদের জন্য বিশ্বাসযোগ্য ভুল তথ্য তৈরি এবং প্রচার করা সহজ করে তুলছে। ইনস্টিটিউট ফর ডিজিটাল এথিক্সের একজন শীর্ষস্থানীয় এআই গবেষক ডঃ অন্যা শর্মা বলেছেন, "চ্যালেঞ্জটি কেবল ডিপফেক সনাক্ত করাই নয়, তাদের উৎস খুঁজে বের করা এবং দায়ীদের জবাবদিহি করাও।"

X সরকারের দাবিগুলির প্রতিক্রিয়া জানিয়েছে এবং বলেছে যে তারা তাদের প্ল্যাটফর্মে এআই-এর অপব্যবহারের বিরুদ্ধে লড়াই করতে প্রতিশ্রুতিবদ্ধ। সংস্থাটি তার বর্তমান ব্যবস্থাগুলির রূপরেখা দিয়েছে, যার মধ্যে রয়েছে কন্টেন্ট নিরীক্ষণ নীতি, এআই-চালিত সনাক্তকরণ সরঞ্জাম এবং ব্যবহারকারী রিপোর্টিং প্রক্রিয়া। X-এর ট্রাস্ট অ্যান্ড সেফটির প্রধানের প্রকাশিত এক বিবৃতিতে বলা হয়েছে, "ডিপফেক এবং অন্যান্য ধরণের কারসাজি করা মিডিয়া সনাক্তকরণ এবং অপসারণের জন্য আমরা ক্রমাগত আমাদের ক্ষমতা উন্নত করার জন্য কাজ করছি।" "এছাড়াও, আমরা নতুন প্রযুক্তি যেমন ওয়াটারমার্কিং এবং প্রোভেনেন্স ট্র্যাকিং অন্বেষণ করছি, যাতে ব্যবহারকারীরা খাঁটি এবং সিনথেটিক কন্টেন্টের মধ্যে পার্থক্য করতে পারে।"

সরকার বর্তমানে X-এর প্রস্তাবিত ব্যবস্থাগুলি পর্যালোচনা করছে এবং আরও নিয়ন্ত্রক পদক্ষেপ নেওয়ার কথা বিবেচনা করছে। এর মধ্যে কঠোর কন্টেন্ট নিরীক্ষণ নীতি তৈরি, এআই-উত্পাদিত কন্টেন্টকে স্পষ্টভাবে চিহ্নিত করার বাধ্যবাধকতা এবং ডিপফেকের বিস্তার মোকাবেলায় ব্যর্থ প্ল্যাটফর্মগুলির জন্য জরিমানা আরোপ করা অন্তর্ভুক্ত থাকতে পারে। এই পর্যালোচনার ফলাফল এআই নিয়ন্ত্রণের ভবিষ্যৎ এবং ভুল তথ্যের বিরুদ্ধে লড়াইয়ে সামাজিক মাধ্যম প্ল্যাটফর্মগুলির দায়িত্বের উপর উল্লেখযোগ্য প্রভাব ফেলতে পারে।