এক্স, পূর্বে টুইটার, বুধবার রাতে গ্রোক এআই ইমেজ জেনারেটর ব্যবহার করে বাস্তব মানুষের আপত্তিকর পোশাক পরিহিত ছবি তৈরি করা বন্ধ করার লক্ষ্যে নতুন বিধিনিষেধ আরোপ করেছে। গ্রোক ব্যবহার করে নারীদের সম্মতি ব্যতিরেকে "কাপড় খুলে ফেলা" ছবি এবং প্ল্যাটফর্মে অপ্রাপ্তবয়স্কদের যৌন আবেদনময় ছবি তৈরি করার বিষয়ে ব্যাপক সমালোচনার পর এই নীতি পরিবর্তন করা হয়েছে।

তবে, এক্স তার নিজস্ব প্ল্যাটফর্মে নিরাপত্তা ব্যবস্থা চালু করেছে বলে মনে হলেও, গবেষক, ওয়্যার্ড এবং অন্যান্য সাংবাদিকদের করা পরীক্ষা অনুসারে, স্বতন্ত্র গ্রোক অ্যাপ্লিকেশন এবং ওয়েবসাইট এখনও একই ধরনের ছবি তৈরি করছে। কিছু ব্যবহারকারী আগের সক্ষমতার তুলনায় ছবি এবং ভিডিও তৈরি করার ক্ষেত্রে সীমাবদ্ধতা অনুভব করার কথাও জানিয়েছেন।

প্যারিস-ভিত্তিক অলাভজনক সংস্থা এআই ফরেনসিকসের প্রধান গবেষক পল বুশাউড বলেছেন, সংস্থাটি এখনও Grok.com-এ বাস্তবসম্মত নগ্ন ছবি তৈরি করতে পারছে। বুশাউড বলেন, "আমরা এমনভাবে নগ্নতা তৈরি করতে পারি যা এক্স-এর গ্রোক পারে না।" তিনি উল্লেখ করেন যে তিনি গ্রোক ব্যবহার করে যৌন আবেদনময় ছবি তৈরি করার বিষয়টি নজরে রেখেছেন এবং এক্স-এর বাইরে প্ল্যাটফর্মটিতে একাধিক পরীক্ষা চালিয়েছেন। তিনি আরও বলেন, "আমি গ্রোক ইমাজিনে একটি ছবি আপলোড করে সেই ব্যক্তিকে বিকিনি পরানোর কথা বলতে পারি, এবং এটি কাজ করে।"

এই অসঙ্গতি একই এআই প্রযুক্তি ব্যবহার করে বিভিন্ন প্ল্যাটফর্ম এবং ইন্টারফেস জুড়ে ব্যাপক সুরক্ষা ব্যবস্থা বাস্তবায়নের চ্যালেঞ্জগুলো তুলে ধরে। গ্রোকের ইমেজ তৈরির ক্ষমতা জটিল অ্যালগরিদমের উপর নির্ভর করে যা কার্যকরভাবে নিয়ন্ত্রণ ও নিরীক্ষণ করা কঠিন হতে পারে। এই প্রযুক্তি ডিফিউশন মডেল ব্যবহার করে, যা ছবি এবং টেক্সটের বিশাল ডেটাসেটের উপর প্রশিক্ষিত, যা ব্যবহারকারীর প্রম্পটের উপর ভিত্তি করে নতুন ছবি তৈরি করতে সক্ষম। তবে, এর অর্থ হল সঠিকভাবে নিয়ন্ত্রণ করা না হলে মডেলগুলিকে ক্ষতিকারক বা অনুপযুক্ত সামগ্রী তৈরি করতে ব্যবহার করা যেতে পারে।

এক্স-এ বিধিনিষেধ আরোপ করা এআই-উত্পাদিত যৌন আবেদনময় ছবি সমস্যার সমাধানে একটি প্রাথমিক পদক্ষেপ। তবে, স্বতন্ত্র গ্রোক প্ল্যাটফর্মে এই ধরনের সামগ্রীর অব্যাহত উপস্থিতি এই পদক্ষেপগুলোর কার্যকারিতা নিয়ে উদ্বেগ সৃষ্টি করে। এই ঘটনাটি এআই ইমেজ জেনারেশনের সাথে সম্পর্কিত সম্ভাব্য ক্ষতি কমাতে প্রযুক্তি সংস্থা, গবেষক এবং নীতিনির্ধারকদের মধ্যে চলমান পর্যবেক্ষণ, সুরক্ষা প্রোটোকলের পরিমার্জন এবং সহযোগিতার প্রয়োজনীয়তার উপর জোর দেয়। শিল্পের উপর এর প্রভাবের মধ্যে এআই-চালিত সরঞ্জামগুলোর উপর বর্ধিত নজরদারি এবং অপব্যবহার রোধে কঠোর বিধিবিধানের জন্য চাপ অন্তর্ভুক্ত থাকতে পারে।