এক্স-এর একটি ঘোষণা অনুযায়ী, ইলন মাস্কের এআই টুল গ্রোক এখন থেকে বাস্তব মানুষের ছবি সম্পাদনা করে তাদের এমন পোশাকে উপস্থাপন করতে পারবে না যা সেইসব বিচারব্যবস্থায় অবৈধ যেখানে এই ধরনের পরিবর্তন নিষিদ্ধ। প্ল্যাটফর্মটি দ্বারা তৈরি যৌনতাপূর্ণ এআই ডিপফেকগুলির সম্ভাবনা নিয়ে ব্যাপক উদ্বেগের পরে এই সিদ্ধান্ত নেওয়া হয়েছে।

ইলন মাস্কের মালিকানাধীন সোশ্যাল মিডিয়া প্ল্যাটফর্ম এক্স জানিয়েছে যে গ্রোক অ্যাকাউন্ট থেকে বাস্তব মানুষের ছবি সম্পাদনা করে তাদের খোলামেলা পোশাকে দেখানোর অনুমতি বন্ধ করতে প্রযুক্তিগত ব্যবস্থা নেওয়া হয়েছে। কোম্পানিটি ২০২৩ সালে গ্রোক চালু করে।

যুক্তরাজ্য সরকার এই পরিবর্তনের প্রতিক্রিয়ায় এটিকে এক্স-এর প্রতি গ্রোককে নিয়ন্ত্রণ করার আহ্বানের "যথার্থতা প্রমাণ" হিসেবে অভিহিত করেছে। যুক্তরাজ্যের যোগাযোগ নিয়ন্ত্রক সংস্থা অফকম এই পদক্ষেপকে "স্বাগত অগ্রগতি" হিসাবে বর্ণনা করেছে, তবে জোর দিয়ে বলেছে যে প্ল্যাটফর্মটি যুক্তরাজ্যের আইন লঙ্ঘন করেছে কিনা তা নিয়ে তাদের তদন্ত "এখনও চলছে"। অফকম জানিয়েছে যে তারা তদন্তের অগ্রগতি এবং কী ভুল হয়েছে এবং তা সমাধানের জন্য কী করা হচ্ছে তা নির্ধারণের জন্য কাজ করছে।

প্রযুক্তি বিষয়ক সেক্রেটারি লিজ কেন্ডাল এই পদক্ষেপকে স্বাগত জানিয়েছেন তবে বলেছেন যে তিনি "অফকমের চলমান তদন্ত দ্বারা তথ্যগুলি সম্পূর্ণরূপে এবং জোরালোভাবে প্রতিষ্ঠিত হবে বলে আশা করেন।"

প্রচারকারীরা এবং ক্ষতিগ্রস্তরা বলছেন যে প্রযুক্তিটির দ্বারা ইতিমধ্যে যে ক্ষতি হয়েছে তা পূরণ করার জন্য এই পরিবর্তনটি অনেক দেরিতে করা হয়েছে। সাংবাদিক ও প্রচারক জেস ডেভিস তাদের মধ্যে অন্যতম যিনি উদ্বেগ প্রকাশ করেছেন।

গ্রোকের পিছনের প্রযুক্তি, অন্যান্য অনেক এআই ইমেজ এডিটিং টুলের মতো, বিশাল ডেটাসেটের ওপর প্রশিক্ষিত ডিপ লার্নিং মডেল ব্যবহার করে। এই মডেলগুলিকে বিদ্যমান ছবিগুলিকে বিভিন্ন উপায়ে পরিবর্তন করতে ব্যবহার করা যেতে পারে, যার মধ্যে পোশাক যোগ বা সরানোও অন্তর্ভুক্ত। উদ্বেগটি তখন দেখা দেয় যখন এই ক্ষমতাগুলি সম্মতিবিহীন, যৌনতাপূর্ণ ছবি তৈরি করতে ব্যবহৃত হয়, যা প্রায়শই ডিপফেক হিসাবে পরিচিত।

এই সিদ্ধান্তের শিল্প প্রভাব এখনও দেখার বিষয়। অন্যান্য এআই ইমেজ এডিটিং প্ল্যাটফর্মগুলিও অনুরূপ সুরক্ষার ব্যবস্থা বাস্তবায়নের জন্য ক্রমবর্ধমান যাচাই-বাছাই এবং চাপের সম্মুখীন হতে পারে। এই ঘটনাটি দ্রুত অগ্রসরমান এআই প্রযুক্তির সাথে সম্পর্কিত নৈতিক চ্যালেঞ্জ এবং অপব্যবহার রোধে সক্রিয় পদক্ষেপের প্রয়োজনীয়তার ওপর আলোকপাত করে।