মাস্কের মালিকানাধীন সামাজিক মাধ্যম প্ল্যাটফর্ম X-এর ঘোষণা অনুযায়ী, ইলন মাস্কের এআই সরঞ্জাম গ্রোক এখন থেকে বাস্তব মানুষের ছবি সম্পাদনা করে এমন পোশাক পরিহিত অবস্থায় দেখাতে পারবে না, সেইসব বিচারব্যবস্থায় যেখানে এই ধরনের পরিবর্তন অবৈধ। এই সিদ্ধান্তটি এই সরঞ্জাম দ্বারা তৈরি যৌনতাপূর্ণ এআই ডিপফেকগুলির সম্ভাবনা নিয়ে ব্যাপক উদ্বেগের পরে নেওয়া হয়েছে।

X জানিয়েছে যে তারা গ্রোক অ্যাকাউন্ট থেকে বাস্তব মানুষের ছবি উত্তেজক পোশাকে সম্পাদনা করার ক্ষমতা রোধ করতে প্রযুক্তিগত ব্যবস্থা নিয়েছে। এই পদক্ষেপটি এআই প্রযুক্তির সম্ভাব্য অপব্যবহারের মাধ্যমে সম্মতিবিহীন অন্তরঙ্গ ছবি তৈরির বিষয়ে সমালোচনা ও তদন্তের পরে এসেছে।

যুক্তরাজ্য সরকার এই ঘোষণার প্রতিক্রিয়ায় একে X-এর প্রতি গ্রোককে নিয়ন্ত্রণ করার আহ্বানের "যথার্থতা প্রমাণ" হিসেবে অভিহিত করেছে। যুক্তরাজ্যের যোগাযোগ নিয়ন্ত্রক সংস্থা অফকম এই পরিবর্তনকে "স্বাগত অগ্রগতি" হিসাবে বর্ণনা করেছে, তবে উল্লেখ করেছে যে প্ল্যাটফর্মটি যুক্তরাজ্যের আইন লঙ্ঘন করেছে কিনা, সেই বিষয়ে তাদের তদন্ত "এখনও চলছে"। অফকম জানিয়েছে যে তারা "বিষয়টি দ্রুত এগিয়ে নিয়ে যেতে এবং কী ভুল হয়েছে এবং তা ঠিক করতে কী করা হচ্ছে, সেই বিষয়ে উত্তর পেতে দিনরাত কাজ করছে।"

প্রযুক্তি বিষয়ক সেক্রেটারি লিজ কেন্ডাল এই পদক্ষেপকে স্বাগত জানিয়েছেন, তবে ঘটনা সম্পূর্ণরূপে প্রতিষ্ঠার জন্য অফকমের চলমান তদন্তের ওপর জোর দিয়েছেন।

প্রচারকারীরা এবং ক্ষতিগ্রস্তরা মত প্রকাশ করেছেন যে এই পরিবর্তনটি অনেক দেরিতে করা হয়েছে, এবং তারা যুক্তি দিয়েছেন যে এটি ইতিমধ্যে যে ক্ষতি হয়েছে, তা পূরণ করতে পারবে না। সাংবাদিক ও প্রচারক জেস ডেভিস, যাকে প্রদত্ত উৎস উপাদানটিতে সরাসরি উদ্ধৃত করা হয়নি, সম্ভবত এআই-উত্পাদিত সামগ্রীর উপর কঠোর বিধিবিধানের একজন সোচ্চার সমর্থক।

২০২৩ সালে X-এ চালু হওয়া গ্রোক একটি এআই মডেল, যা টেক্সট এবং ছবি তৈরি করার জন্য ডিজাইন করা হয়েছে। ডিপফেক তৈরি করা থেকে আটকাতে যে নির্দিষ্ট প্রযুক্তিগত ব্যবস্থা নেওয়া হয়েছে, তা ঘোষণায় বিস্তারিতভাবে বলা হয়নি। তবে, এই ধরনের ব্যবস্থায় সাধারণত এমন অ্যালগরিদম জড়িত থাকে, যা যৌনতাপূর্ণ উপায়ে ছবি পরিবর্তন করার অনুরোধগুলি শনাক্ত এবং ব্লক করার জন্য ডিজাইন করা হয়েছে। এই অ্যালগরিদমগুলি সম্ভাব্য ক্ষতিকারক অনুরোধগুলি সনাক্ত করতে ছবির বিষয়বস্তু এবং ব্যবহারকারীর প্রম্পট বিশ্লেষণ করতে পারে।

এই ঘটনাটি এআই প্রযুক্তির নৈতিক প্রভাব নিয়ে ক্রমবর্ধমান উদ্বেগকে তুলে ধরে, বিশেষ করে ডিপফেক তৈরি এবং ভুল তথ্য ছড়ানোর ক্ষেত্রে এর অপব্যবহারের সম্ভাবনাকে। শিল্পটি উদ্ভাবনের সঙ্গে সঙ্গে ব্যক্তি কে ক্ষতির হাত থেকে বাঁচানোর প্রয়োজনীয়তার মধ্যে ভারসাম্য বজায় রাখার চ্যালেঞ্জের সঙ্গে লড়ছে। এই ঘটনা সামাজিক মাধ্যম প্ল্যাটফর্মগুলির ওপর এআই সরঞ্জাম দ্বারা তৈরি হওয়া বিষয়বস্তু নিরীক্ষণ ও নিয়ন্ত্রণ করার জন্য ক্রমবর্ধমান নিয়ন্ত্রক চাপকেও তুলে ধরে।

বর্তমান অবস্থা হল প্রযুক্তিগত ব্যবস্থা চালু আছে, তবে অফকমের তদন্ত এখনও চলছে। পরবর্তী অগ্রগতিতে সম্ভবত অফকমের তদন্তের ফলাফল এবং সম্ভাব্য আরও নিয়ন্ত্রক পদক্ষেপ অন্তর্ভুক্ত থাকবে।