এই পদক্ষেপটি এই টুলের মাধ্যমে তৈরি যৌনতাপূর্ণ এআই ডিপফেকগুলির সম্ভাবনা নিয়ে ব্যাপক উদ্বেগের পরে নেওয়া হয়েছে। ২০২৩ সালে চালু হওয়া গ্রোক, এক্স প্ল্যাটফর্মে একত্রিত একটি এআই সহকারী। ছবি পরিবর্তনের প্রতিরোধ করার জন্য বাস্তবায়িত নির্দিষ্ট প্রযুক্তিগত প্রক্রিয়াগুলি এক্স প্রকাশ করেনি।

যুক্তরাজ্য সরকার এই পরিবর্তনের প্রতিক্রিয়ায় একে এক্স-কে গ্রোক নিয়ন্ত্রণে আনার জন্য তাদের আগের আহ্বানের "যথার্থতা প্রমাণ" হিসাবে অভিহিত করেছে। যুক্তরাজ্যের যোগাযোগ নিয়ন্ত্রক সংস্থা অফকম এই অগ্রগতিকে "স্বাগত" জানিয়েছে, তবে জোর দিয়েছে যে এক্স যুক্তরাজ্যের আইন লঙ্ঘন করেছে কিনা, সেই বিষয়ে তাদের তদন্ত "এখনও চলছে"। অফকম জানিয়েছে যে তারা "এটি এগিয়ে নিয়ে যেতে এবং কী ভুল হয়েছে এবং তা সমাধানের জন্য কী করা হচ্ছে তার উত্তর পেতে দিনরাত কাজ করছে।" প্রযুক্তি বিষয়ক সেক্রেটারি লিজ কেন্ডালও এই পদক্ষেপকে স্বাগত জানিয়েছেন, তিনি আরও যোগ করেছেন যে তিনি "অফকমের চলমান তদন্ত দ্বারা তথ্যগুলি সম্পূর্ণরূপে এবং জোরালোভাবে প্রতিষ্ঠিত হবে বলে আশা করেন"।

প্রচারকারীরা এবং ক্ষতিগ্রস্তরা যুক্তি দিয়েছেন যে প্রযুক্তিটির দ্বারা ইতিমধ্যে যে ক্ষতি হয়েছে তা মোকাবেলার জন্য বাস্তবায়িত পরিবর্তনগুলি যথেষ্ট নয়। সাংবাদিক এবং প্রচারক জেস ডেভিস, যিনি এই বিষয়ে সোচ্চার ছিলেন, তিনি এখনও এক্স দ্বারা বাস্তবায়িত নির্দিষ্ট ব্যবস্থা সম্পর্কে কোনও মন্তব্য করেননি।

এই ঘটনাটি এআই প্রযুক্তির অপব্যবহার, বিশেষত সম্মতিবিহীন অন্তরঙ্গ চিত্র তৈরি করার বিষয়ে ক্রমবর্ধমান উদ্বেগ তুলে ধরে। এআই ব্যবহার করে বাস্তবসম্মতভাবে ছবি পরিবর্তন করার ক্ষমতা উল্লেখযোগ্য নৈতিক ও আইনি প্রশ্ন উত্থাপন করে, যা কঠোর বিধিবিধান এবং প্রযুক্তিগত সুরক্ষার আহ্বান জানায়। অফকমের চলমান তদন্তে এই সমস্যার পরিধি এবং এআই সরঞ্জামগুলির অপব্যবহার রোধে সামাজিক মাধ্যম প্ল্যাটফর্মগুলির দায়িত্ব সম্পর্কে আরও আলোকপাত করা হবে বলে আশা করা হচ্ছে।