এক্স, পূর্বে টুইটার, তাদের প্ল্যাটফর্মে নতুন বিধিনিষেধ আরোপ করেছে যাতে ব্যবহারকারীরা গ্রোক এআই ইমেজ জেনারেটরের মাধ্যমে বাস্তব মানুষের বিকিনি বা অন্যান্য খোলামেলা পোশাক পরিহিত ছবি তৈরি করতে না পারে। বুধবার রাতে এই নীতি পরিবর্তন করা হয়েছে, কারণ গ্রোক ব্যবহার করে নারীদের সম্মতি ছাড়াই "কাপড় খুলে ফেলা" ছবি এবং সম্ভাব্য অপ্রাপ্তবয়স্কদের যৌন উত্তেজক ছবি তৈরি করার বিষয়ে ব্যাপক সমালোচনা শুরু হয়েছিল।

তবে, এক্স তাদের প্ল্যাটফর্মের মধ্যে গ্রোকের ইমেজ জেনারেশনের জন্য সুরক্ষা ব্যবস্থা চালু করলেও, গবেষক, ওয়্যার্ড এবং অন্যান্য সাংবাদিকদের করা পরীক্ষা অনুসারে, গ্রোকের স্বতন্ত্র অ্যাপ এবং ওয়েবসাইট এখনও একই ধরনের "কাপড় খুলে ফেলার মতো" ছবি এবং পর্নোগ্রাফিক কনটেন্ট তৈরি করতে সক্ষম বলে মনে হচ্ছে। কিছু ব্যবহারকারী তাদের পূর্বেকার মতো ছবি এবং ভিডিও তৈরি করার ক্ষমতা হ্রাসের কথাও জানিয়েছেন।

প্যারিস-ভিত্তিক অলাভজনক সংস্থা এআই ফরেনসিকসের প্রধান গবেষক পল বুশাউদ বলেছেন, এক্স-এ বিধিনিষেধ থাকা সত্ত্বেও তাদের সংস্থা এখনও Grok.com-এ বাস্তবসম্মত নগ্ন ছবি তৈরি করতে পারে। বুশাউদ বলেন, "এক্স-এ গ্রোক যেভাবে কাজ করে, তার থেকে ভিন্নভাবে আমরা নগ্নতা তৈরি করতে পারি।" তিনি আরও উল্লেখ করেন যে, তিনি গ্রোক ব্যবহার করে যৌন উত্তেজক ছবি তৈরি করার বিষয়টি নজরে রেখেছেন এবং এক্স-এর বাইরে গ্রোকের উপর একাধিক পরীক্ষা চালিয়েছেন। তিনি যোগ করেন, "আমি গ্রোক ইমাজিনে একটি ছবি আপলোড করে যদি সেই ব্যক্তিকে বিকিনি পরানোর কথা বলি, তবে সেটি কাজ করে।"

এই সমস্যাটি বিভিন্ন প্ল্যাটফর্ম এবং একই এআই প্রযুক্তির বিভিন্ন সংস্করণে কার্যকর কনটেন্ট মডারেশন বাস্তবায়নের চ্যালেঞ্জগুলো তুলে ধরে। গ্রোক, যা ইলন মাস্কের এআই কোম্পানি xAI দ্বারা তৈরি, একটি জেনারেটিভ এআই মডেল যা DALL-E 2 এবং মিডজার্নির মতো টেক্সট প্রম্পট থেকে ছবি তৈরি করতে সক্ষম। এই প্রযুক্তিটির অপব্যবহারের সম্ভাবনা নিয়ে উদ্বেগ সৃষ্টি হয়েছে, যার মধ্যে ডিপফেক এবং সম্মতিবিহীন অন্তরঙ্গ ছবি তৈরি করাও অন্তর্ভুক্ত।

এক্স-এর নতুন বিধিনিষেধ এই উদ্বেগগুলো মোকাবিলার একটি প্রচেষ্টা, তবে স্বতন্ত্র গ্রোক অ্যাপ এবং ওয়েবসাইটের কার্যকারিতা থেকে বোঝা যায় যে ঝুঁকি সম্পূর্ণরূপে কমাতে আরও পদক্ষেপ নেওয়া প্রয়োজন। এটা এখনও দেখার বিষয় যে xAI স্বতন্ত্র গ্রোক প্ল্যাটফর্মে অতিরিক্ত সুরক্ষা ব্যবস্থা গ্রহণ করবে কিনা অথবা এক্স গ্রোক ব্যবহার করে ক্ষতিকর ছবি তৈরি করা বন্ধ করতে আরও পদক্ষেপ নেবে কিনা। এই পরিস্থিতি এআই-উত্পাদিত কনটেন্টের নৈতিক প্রভাব এবং প্রযুক্তি কোম্পানিগুলোর এর অপব্যবহার রোধে দায়িত্ব নিয়ে চলমান বিতর্ককে আরও জোরালো করে।