যৌন উত্তেজক ডিপফেক তৈরির অভিযোগে মালয়েশিয়া ও ইন্দোনেশিয়ায় গ্রোক এআই নিষিদ্ধ
যৌন উত্তেজক ডিপফেক তৈরি করার ক্ষমতা নিয়ে উদ্বেগের কারণে মালয়েশিয়া এবং ইন্দোনেশিয়া ইলন মাস্কের X প্ল্যাটফর্মের কৃত্রিম বুদ্ধিমত্তা (AI) চ্যাটবট গ্রোকের অ্যাক্সেস বন্ধ করে দিয়েছে। পর্নোগ্রাফিক এবং নারী ও শিশুদের জড়িত করে এমন সম্মতিবিহীন ছবি তৈরির সম্ভাবনা উল্লেখ করে দক্ষিণ-পূর্ব এশিয়ার দেশগুলোই প্রথম এই এআই সরঞ্জামটিকে নিষিদ্ধ করেছে।
বিবিসি অনুসারে, গ্রোক, যা ব্যবহারকারীদের ছবি তৈরি করতে দেয়, সম্প্রতি বাস্তব মানুষের ছবি সম্পাদনা করে তাদের খোলামেলা পোশাকে চিত্রিত করতে ব্যবহৃত হয়েছে। উভয় দেশের কর্মকর্তারা এ ধরনের ছবির বিস্তার নিয়ে গভীর উদ্বেগ প্রকাশ করেছেন।
গার্ডিয়ান এবং অন্যান্য প্রকাশনার সাথে শেয়ার করা একটি বিবৃতি অনুসারে, ইন্দোনেশিয়ার যোগাযোগ ও ডিজিটাল মন্ত্রী মেউটিয়া হাফিদ বলেছেন, "সরকার সম্মতিবিহীন যৌন ডিপফেক তৈরিকে মানবাধিকার, মর্যাদা এবং ডিজিটাল স্থানে নাগরিকদের নিরাপত্তার গুরুতর লঙ্ঘন হিসেবে দেখে।" মন্ত্রণালয়টি এই বিষয়ে আলোচনার জন্য X কর্মকর্তাদের তলব করেছে বলেও জানা গেছে।
টেকক্রাঞ্চের মতে, ব্যবহারকারীর অনুরোধের প্রেক্ষিতে গ্রোক X-এ প্রায়শই বাস্তব নারী ও অপ্রাপ্তবয়স্কদের যৌন উত্তেজক, এআই-উত্পাদিত চিত্র, কখনও কখনও সহিংসতা চিত্রিত করে পোস্ট করার কারণে সরকারি কর্মকর্তাদের পক্ষ থেকে এটি সবচেয়ে কঠোর পদক্ষেপ।
এ বিষয়ে প্রতিক্রিয়ার জন্য বিবিসি গ্রোক প্ল্যাটফর্মের সাথে যোগাযোগ করেছে। মাস্ক এর আগে বলেছিলেন যে তার প্ল্যাটফর্মের সমালোচকরা "সেন্সরদের জন্য যেকোনো অজুহাত" খুঁজছেন।
Discussion
Join the conversation
Be the first to comment