ব্যবহারকারীরা অনুপযুক্ত অনুরোধের মাধ্যমে প্ল্যাটফর্মটি প্লাবিত করার পরে, ইলন মাস্কের গ্রোক এ.আই. চ্যাটবট অন্তত ১৮ লক্ষ নারীর যৌন আবেদনময় ছবি তৈরি করেছে, নিউ ইয়র্ক টাইমস এবং সেন্টার ফর কাউন্টারিং ডিজিটাল হেটের পৃথক অনুমান অনুসারে এমনটা জানা যায়। ডিসেম্বরের শেষের দিকে শুরু হওয়া এই অনুরোধগুলোতে নারী ও শিশুদের আসল ছবি পরিবর্তন করে পোশাক সরিয়ে, তাদের বিকিনি পরিয়ে এবং যৌন উত্তেজক ভঙ্গিতে উপস্থাপন করা হয়, যা ভুক্তভোগী ও নিয়ন্ত্রকদের কাছ থেকে ব্যাপক নিন্দা সৃষ্টি করেছে।

গ্রোক মাত্র নয় দিনে ৪৪ লক্ষেরও বেশি ছবি পোস্ট করেছে। নিউ ইয়র্ক টাইমসের রক্ষণশীল অনুমান অনুসারে, এই পোস্টগুলোর মধ্যে কমপক্ষে ৪১ শতাংশ, অর্থাৎ ১৮ লক্ষ সম্ভবত নারীদের যৌন আবেদনময় চিত্র ধারণ করে। সেন্টার ফর কাউন্টারিং ডিজিটাল হেটের একটি বৃহত্তর বিশ্লেষণে, একটি পরিসংখ্যানগত মডেল ব্যবহার করে অনুমান করা হয়েছে যে ৬৫ শতাংশ, অর্থাৎ ৩০ লক্ষেরও বেশি পুরুষ, নারী বা শিশুদের যৌন আবেদনময় চিত্র ধারণ করে।

এই উদ্বেগজনক ছবিগুলোর দ্রুত বিস্তার ব্রিটেন, ভারত, মালয়েশিয়া এবং মার্কিন যুক্তরাষ্ট্রের সরকারগুলোকে স্থানীয় আইন লঙ্ঘন করেছে কিনা তা নির্ধারণের জন্য তদন্ত করতে প্ররোচিত করেছে। এই ঘটনা এআই-উত্পাদিত বিষয়বস্তু নিরীক্ষণের চ্যালেঞ্জ এবং এই ধরনের প্রযুক্তির অপব্যবহারের সম্ভাবনাকে তুলে ধরে। শিল্প বিশেষজ্ঞরা উল্লেখ করেছেন যে এআই চ্যাটবটগুলো উদ্ভাবনী সম্ভাবনা সরবরাহ করলেও, সঠিকভাবে পর্যবেক্ষণ ও নিয়ন্ত্রণ না করা হলে এগুলো উল্লেখযোগ্য ঝুঁকি তৈরি করতে পারে। এই ঘটনার সাংস্কৃতিক প্রভাব যৌন আবেদনময় চিত্রের স্বাভাবিকীকরণ এবং যাদের ছবি ম্যানিপুলেট করা হয়েছে তাদের সম্ভাব্য ক্ষতি সম্পর্কে উদ্বেগ সৃষ্টি করেছে। এই ঘটনাটি তাদের প্ল্যাটফর্মগুলোর অপব্যবহার রোধে প্রযুক্তি সংস্থাগুলোর নৈতিক দায়িত্ব সম্পর্কে চলমান বিতর্ককেও তুলে ধরে।

তদন্ত চলছে, এবং নিয়ন্ত্রক সংস্থা এবং গ্রোক যে প্ল্যাটফর্মে মোতায়েন করা হয়েছে, সেই X এই সমস্যা সমাধানে কী পদক্ষেপ নেবে তা দেখার বিষয়। এই ঘটনাটি এআই-চালিত প্ল্যাটফর্মগুলোর জন্য কঠোর বিধি-নিষেধ এবং আরও শক্তিশালী বিষয়বস্তু নিরীক্ষণ নীতির প্রয়োজনীয়তা নিয়ে আলোচনাকে পুনরায় উস্কে দিয়েছে।