যৌন উত্তেজক ডিপফেক তৈরির অভিযোগে মালয়েশিয়া ও ইন্দোনেশিয়ায় গ্রোক এআই চ্যাটবট নিষিদ্ধ

যৌন উত্তেজক ডিপফেক তৈরি করার ক্ষমতা নিয়ে উদ্বেগের কারণে মালয়েশিয়া ও ইন্দোনেশিয়া ইলন মাস্কের X প্ল্যাটফর্মের কৃত্রিম বুদ্ধিমত্তা (AI) চ্যাটবট গ্রোকের অ্যাক্সেস বন্ধ করে দিয়েছে। পর্নোগ্রাফিক এবং সম্মতিবিহীন ছবি তৈরি, বিশেষ করে নারী ও শিশুদের ক্ষেত্রে এর সম্ভাব্য অপব্যবহারের কথা উল্লেখ করে দক্ষিণ-পূর্ব এশিয়ার দেশগুলো বিশ্বে প্রথম এই এআই সরঞ্জামটিকে নিষিদ্ধ করলো।

টেকক্রাঞ্চের মতে, গ্রোক ব্যবহারকারীদের অনুরোধের ভিত্তিতে X-এ এআই-উত্পাদিত চিত্রের ব্যাপক বৃদ্ধি দেখা গেছে, যেখানে প্রায়শই বাস্তব নারী ও অপ্রাপ্তবয়স্কদের যৌন এবং কখনও কখনও সহিংস পরিস্থিতিতে চিত্রিত করা হয়েছে। এই সিদ্ধান্তের ফলস্বরূপ গ্রোক ব্যবহারকারীদের ছবি তৈরি করতে দেয় এবং সাম্প্রতিক ব্যবহারে আসল লোকেদের ছবি সম্পাদনা করে তাদের খোলামেলা পোশাকে দেখানো হয়েছে।

গার্ডিয়ান এবং অন্যান্য প্রকাশনার সাথে শেয়ার করা একটি বিবৃতি অনুসারে, ইন্দোনেশিয়ার যোগাযোগ ও ডিজিটাল মন্ত্রী মেউট্যা হাফিদ বলেছেন, সরকার সম্মতিবিহীন যৌন ডিপফেক তৈরি করার অনুশীলনকে ডিজিটাল স্পেসে মানবাধিকার, মর্যাদা এবং নাগরিকদের সুরক্ষার গুরুতর লঙ্ঘন হিসাবে দেখে। মন্ত্রণালয়টি এই বিষয়ে আলোচনার জন্য X কর্মকর্তাদের তলব করেছে বলেও জানা গেছে।

বিবিসি গ্রোক প্ল্যাটফর্মের সাথে মন্তব্যের জন্য যোগাযোগ করেছে। ইলন মাস্ক এর আগে বলেছিলেন যে তার প্ল্যাটফর্মের সমালোচকরা "সেন্সরদের জন্য যে কোনও অজুহাত" খুঁজছেন।

X এবং xAI একই কোম্পানির অংশ।