এক্স-এর একটি ঘোষণা অনুযায়ী, ইলন মাস্কের এআই সরঞ্জাম গ্রোক এখন থেকে বাস্তব মানুষের ছবি সম্পাদনা করে এমন পোশাক পরিহিত অবস্থায় দেখাতে পারবে না, সেইসব বিচারব্যবস্থায় যেখানে এই ধরনের পরিবর্তন অবৈধ। প্ল্যাটফর্মটি দ্বারা তৈরি যৌন উদ্দীপক এআই ডিপফেকগুলির সম্ভাবনা নিয়ে ব্যাপক উদ্বেগের পরে এই সিদ্ধান্ত নেওয়া হয়েছে।

মাস্কের মালিকানাধীন সোশ্যাল মিডিয়া প্ল্যাটফর্ম এক্স জানিয়েছে যে, তারা "গ্রোক অ্যাকাউন্টটিকে বাস্তব মানুষের ছবিতে আপত্তিকর পোশাক সম্পাদনা করার অনুমতি দেওয়া থেকে বিরত রাখতে প্রযুক্তিগত ব্যবস্থা নিয়েছে।" এআই সরঞ্জামটির সম্ভাব্য অপব্যবহার নিয়ে সমালোচনা ও নিয়ন্ত্রক তদন্তের পর এই পদক্ষেপ নেওয়া হয়েছে।

যুক্তরাজ্য সরকার এই পরিবর্তনের প্রতিক্রিয়ায় এটিকে এক্স কর্তৃক গ্রোককে নিয়ন্ত্রণ করার আহ্বানের "যুক্তিযুক্ত প্রমাণ" বলে অভিহিত করেছে। নিয়ন্ত্রক সংস্থা অফকম এই অগ্রগতিকে "স্বাগত" জানিয়েছে, তবে জোর দিয়েছে যে প্ল্যাটফর্মটি যুক্তরাজ্যের আইন লঙ্ঘন করেছে কিনা, সেই বিষয়ে তাদের তদন্ত "এখনও চলছে"। অফকম জানিয়েছে, "আমরা দিনরাত কাজ করে যাচ্ছি এই বিষয়ে অগ্রগতি করতে এবং কী ভুল হয়েছে এবং তা সমাধানের জন্য কী করা হচ্ছে তার উত্তর পেতে।"

প্রযুক্তি বিষয়ক সেক্রেটারি লিজ কেন্ডালও এই পরিবর্তনকে স্বাগত জানিয়েছেন তবে ইঙ্গিত দিয়েছেন যে তিনি "অফকমের চলমান তদন্ত দ্বারা তথ্যগুলি সম্পূর্ণরূপে এবং জোরালোভাবে প্রতিষ্ঠিত হবে বলে আশা করেন।"

২০২৩ সালে এক্স-এ চালু হওয়া গ্রোক একটি এআই সরঞ্জাম, যা ছবি সম্পাদনা সহ বিভিন্ন ধরণের সামগ্রী তৈরি করার জন্য ডিজাইন করা হয়েছে। আপত্তিকর পোশাক জড়িত ডিপফেক তৈরি করা থেকে বিরত রাখতে এক্স কর্তৃক বাস্তবায়িত নির্দিষ্ট প্রযুক্তিগত ব্যবস্থা প্রকাশ করা হয়নি। তবে, এই ধরনের ব্যবস্থায় প্রায়শই ইমেজ রিকগনিশন অ্যালগরিদম, কন্টেন্ট ফিল্টারিং এবং ব্যবহারকারী রিপোর্টিং মেকানিজমের সংমিশ্রণ জড়িত থাকে। ইমেজ রিকগনিশন অ্যালগরিদমগুলিকে নগ্নতা বা ইঙ্গিতপূর্ণ বিষয় রয়েছে এমন ছবি সনাক্ত করতে এবং চিহ্নিত করতে প্রশিক্ষণ দেওয়া যেতে পারে। কন্টেন্ট ফিল্টারগুলি তখন এই ধরনের ছবি তৈরি বা শেয়ার করা বন্ধ করতে ব্যবহার করা যেতে পারে। ব্যবহারকারী রিপোর্টিং মেকানিজম ব্যবহারকারীদের এক্স-এর মডারেশন টিমের পর্যালোচনার জন্য সম্ভাব্য অনুপযুক্ত সামগ্রী চিহ্নিত করতে দেয়।

এই ঘটনাটি ডিপফেক এবং অন্যান্য ধরণের কারসাজি করা সামগ্রী তৈরি করতে এআই ব্যবহারের সম্ভাবনা নিয়ে ক্রমবর্ধমান উদ্বেগকে তুলে ধরে। এই উদ্বেগগুলি এআই প্ল্যাটফর্মগুলির উপর বর্ধিত নিয়ন্ত্রক তদন্ত এবং এআই প্রযুক্তির বিকাশ ও প্রয়োগে বৃহত্তর স্বচ্ছতা ও জবাবদিহিতার আহ্বানের দিকে পরিচালিত করেছে।

প্রচারকারীরা এবং ক্ষতিগ্রস্তরা উদ্বেগ প্রকাশ করেছেন যে প্রযুক্তিটির কারণে ইতিমধ্যে যে ক্ষতি হয়েছে তা পূরণ করার জন্য পরিবর্তনটি অনেক দেরিতে এসেছে। সাংবাদিক ও প্রচারক জেস ডেভিস, যাকে এক্স-এর ঘোষণায় সরাসরি উদ্ধৃত করা হয়নি, তিনি এআই ডিপফেকগুলি ব্যবহার করে ব্যক্তিদের হয়রানি ও ভয় দেখানোর সম্ভাবনা নিয়ে সোচ্চার হয়েছেন।