এক্স-এর ঘোষণায় বলা হয়েছে, ইলন মাস্কের এআই সরঞ্জাম গ্রোক এখন থেকে বাস্তব মানুষের ছবি সম্পাদনা করে এমন পোশাক পরিহিত অবস্থায় দেখাতে পারবে না, যেখানে এই ধরনের পরিবর্তন অবৈধ। প্ল্যাটফর্মটি দ্বারা তৈরি যৌনতাপূর্ণ এআই ডিপফেকগুলির সম্ভাবনা নিয়ে ব্যাপক উদ্বেগের পরেই এই সিদ্ধান্ত নেওয়া হয়েছে।

মাস্কের মালিকানাধীন সোশ্যাল মিডিয়া প্ল্যাটফর্ম এক্স জানিয়েছে, গ্রোক অ্যাকাউন্ট থেকে বাস্তব মানুষের ছবি সম্পাদনা করে আপত্তিকর পোশাক পরিহিত অবস্থায় দেখানোর অনুমতি যাতে না দেওয়া হয়, তার জন্য প্রযুক্তিগত ব্যবস্থা নেওয়া হয়েছে। এআই সরঞ্জামটির সম্ভাব্য অপব্যবহার নিয়ে সমালোচনা ও নিয়ন্ত্রক সংস্থার তদন্তের পরেই এই পদক্ষেপ নেওয়া হয়েছে।

যুক্তরাজ্য সরকার এই পরিবর্তনের প্রতিক্রিয়ায় একে এক্স-এর উপর গ্রোককে নিয়ন্ত্রণ করার জন্য তাদের আগের আহ্বানের "যুক্তিযুক্ত প্রমাণ" বলে অভিহিত করেছে। নিয়ন্ত্রক সংস্থা অফকম এই পদক্ষেপকে "স্বাগত" জানিয়েছে, তবে জোর দিয়ে বলেছে যে প্ল্যাটফর্মটি যুক্তরাজ্যের আইন লঙ্ঘন করেছে কিনা, সেই বিষয়ে তাদের তদন্ত "চলমান"। অফকম জানিয়েছে, "আমরা দিনরাত কাজ করে যাচ্ছি এবং কী ভুল হয়েছে এবং তা ঠিক করার জন্য কী করা হচ্ছে, তার উত্তর খুঁজে বের করার চেষ্টা করছি।"

টেকনোলজি সেক্রেটারি লিজ কেন্ডালও এই পদক্ষেপকে স্বাগত জানিয়েছেন, তবে ইঙ্গিত দিয়েছেন যে তিনি "অফকমের চলমান তদন্ত দ্বারা তথ্যগুলি সম্পূর্ণরূপে এবং জোরালোভাবে প্রতিষ্ঠিত হবে বলে আশা করেন।"

২০২৩ সালে এক্স-এ চালু হওয়া গ্রোক একটি এআই সরঞ্জাম, যা ছবি সম্পাদনা সহ বিভিন্ন ধরনের কনটেন্ট তৈরি করার জন্য ডিজাইন করা হয়েছে। ডিপফেক তৈরি করা বন্ধ করার জন্য এক্স কর্তৃক গৃহীত নির্দিষ্ট প্রযুক্তিগত ব্যবস্থাগুলি ঘোষণায় বিস্তারিতভাবে বলা হয়নি। তবে, এই ধরনের ব্যবস্থায় সাধারণত অ্যালগরিদম ব্যবহার করা হয়, যা প্ল্যাটফর্মের নীতি এবং আইনি নিয়ম লঙ্ঘন করে এমন উপায়ে ছবি ম্যানিপুলেশন শনাক্ত এবং প্রতিরোধ করার জন্য ডিজাইন করা হয়েছে।

প্রচারকারীরা এবং ক্ষতিগ্রস্তরা যুক্তি দিয়েছেন যে এই পরিবর্তনটি অনেক দেরিতে হয়েছে এবং প্রযুক্তিটি ইতিমধ্যে যে ক্ষতি করেছে তা পূরণ করতে পারবে না। সাংবাদিক ও প্রচারক জেস ডেভিস, যিনি প্রদত্ত উৎস উপাদানটিতে সরাসরি উদ্ধৃত হননি, সম্ভবত প্ল্যাটফর্মের সুরক্ষার অভাবের সমালোচকদের মধ্যে ছিলেন।

এই ঘটনাটি এআই-উত্পাদিত কনটেন্ট এবং এর অপব্যবহারের সম্ভাবনা, বিশেষ করে ডিপফেক তৈরির ক্ষেত্রে ক্রমবর্ধমান উদ্বেগকে তুলে ধরে। শিল্পটি এআই সরঞ্জাম তৈরি করার পাশাপাশি তাদের দূষিত উদ্দেশ্যে ব্যবহার রোধ করার চ্যালেঞ্জের সাথে লড়াই করছে। নিয়ন্ত্রক পরিস্থিতিও বিকশিত হচ্ছে, বিশ্বব্যাপী সরকার এবং নিয়ন্ত্রক সংস্থাগুলি এআই-উত্পাদিত কনটেন্টের সাথে সম্পর্কিত ঝুঁকি মোকাবেলার জন্য ব্যবস্থা বিবেচনা করছে।

বর্তমান অবস্থা হল, এক্স প্রযুক্তিগত ব্যবস্থা গ্রহণ করেছে এবং অফকমের তদন্ত এখনও চলছে। পরবর্তী উন্নয়ন সম্ভবত অফকমের তদন্তের ফলাফল এবং এক্স-এর এআই সুরক্ষা ব্যবস্থার আরও যাচাই-বাছাইয়ের সাথে জড়িত থাকবে।