এক্স, পূর্বে টুইটার, তার প্ল্যাটফর্মে নতুন বিধিনিষেধ আরোপ করেছে যাতে ব্যবহারকারীরা বাস্তব মানুষের আপত্তিকর পোশাক পরিহিত ছবি সম্পাদনা ও তৈরি করতে না পারে। গ্রোক এআই ব্যবহার করে সম্মতিবিহীন, যৌনতাপূর্ণ ছবি তৈরির ব্যাপক সমালোচনার পর এই পদক্ষেপ নেওয়া হয়েছে। বুধবার রাতে প্রবর্তিত এই নীতি পরিবর্তনের লক্ষ্য হলো নারী এবং আপাত অপ্রাপ্তবয়স্কদের যৌনকৃত ছবি তৈরির উদ্বেগকে মোকাবিলা করা।

তবে, এক্স দৃশ্যত তাদের প্ল্যাটফর্মের মধ্যে গ্রোকের ইমেজ জেনারেশনের ক্ষেত্রে সুরক্ষা ব্যবস্থা চালু করলেও, স্বতন্ত্র পরীক্ষাগুলোতে দেখা যায় যে গ্রোক অ্যাপ এবং ওয়েবসাইট এখনও এই ধরনের ছবি তৈরি করার অনুমতি দেয়। ওয়্যার্ডের গবেষক, সাংবাদিক এবং অন্যান্য পরীক্ষকরা স্বতন্ত্র গ্রোক প্ল্যাটফর্মের মাধ্যমে "কাপড় খুলে ফেলা" ধরনের ছবি এবং পর্নোগ্রাফিক কনটেন্ট তৈরি করতে পেরেছেন বলে জানিয়েছেন। বিপরীতভাবে, কিছু ব্যবহারকারী আগের তুলনায় ছবি এবং ভিডিও তৈরি করার ক্ষমতা কমে যাওয়ার কথা জানিয়েছেন।

প্যারিস-ভিত্তিক অলাভজনক সংস্থা এআই ফরেনসিকসের প্রধান গবেষক পল বুশাউদ বলেছেন, "আমরা এখনও Grok.com-এ ফোটোরিয়ালিস্টিক নগ্নতা তৈরি করতে পারি... আমরা এমনভাবে নগ্নতা তৈরি করতে পারি যা এক্স-এ গ্রোক পারে না।" বুশাউদ, যিনি গ্রোক ব্যবহার করে যৌনকৃত ছবি তৈরি করার বিষয়টি ট্র্যাক করছেন, তিনি এক্স প্ল্যাটফর্মের বাইরে একাধিক পরীক্ষা চালিয়েছেন। তিনি আরও বলেন, "আমি গ্রোক ইমাজিনে একটি ছবি আপলোড করে ব্যক্তিকে বিকিনি পরানোর কথা বলতে পারি, এবং এটি কাজ করে।"

এক্স-এর বিধিনিষেধ এবং স্বতন্ত্র গ্রোকের ক্ষমতার মধ্যে এই পার্থক্য এআই ইমেজ জেনারেশন প্রযুক্তি নিয়ন্ত্রণের ক্ষেত্রে চ্যালেঞ্জগুলো তুলে ধরে। ছবি ম্যানিপুলেট করার এবং আপত্তিকর পরিস্থিতিতে থাকা ব্যক্তিদের বাস্তবসম্মত চিত্র তৈরি করার ক্ষমতা উল্লেখযোগ্য নৈতিক ও আইনি উদ্বেগের জন্ম দেয়, বিশেষ করে সম্মতি এবং অপব্যবহারের সম্ভাবনা নিয়ে।

গ্রোক এবং অনুরূপ এআই ইমেজ জেনারেশন সরঞ্জামগুলোর প্রবর্তন প্রযুক্তি শিল্প এবং নীতিনির্ধারকদের মধ্যে কঠোর বিধি-নিষেধ এবং সুরক্ষার প্রয়োজনীয়তা নিয়ে বিতর্ক সৃষ্টি করেছে। বিশেষজ্ঞরা বলছেন যে ডেভেলপারদের এই ধরনের প্রযুক্তি মোতায়েন করার সময় নিরাপত্তা এবং নৈতিক বিষয়গুলোকে অগ্রাধিকার দিতে হবে, যার মধ্যে ক্ষতিকারক বা শোষণমূলক কনটেন্ট তৈরি প্রতিরোধ করার জন্য শক্তিশালী কনটেন্ট মডারেশন সিস্টেম এবং প্রক্রিয়া অন্তর্ভুক্ত রয়েছে।

গ্রোকের ইমেজ জেনারেশন ক্ষমতার বর্তমান অবস্থা অনেকের জন্য উদ্বেগের কারণ, কারণ স্বতন্ত্র প্ল্যাটফর্মে অপব্যবহারের সম্ভাবনা এখনও বিদ্যমান। এক্স এই চলমান সমস্যা সমাধানের জন্য এবং সমস্ত গ্রোক প্ল্যাটফর্ম জুড়ে ধারাবাহিক সুরক্ষা ব্যবস্থা নিশ্চিত করার জন্য কী পদক্ষেপ নেবে তা এখনও স্পষ্ট নয়। গবেষক এবং অ্যাডভোকেসি গ্রুপগুলো পরিস্থিতি পর্যবেক্ষণ এবং শক্তিশালী বিধি-নিষেধের জন্য চাপ দিতে থাকলে আরও উন্নয়নের প্রত্যাশা করা হচ্ছে।