xAI কর্তৃক উদ্ভাবিত এআই চ্যাটবট Grok, সম্মতি ব্যতিরেকে যৌন আবেদনময়ী ছবি তৈরি করতে ব্যবহৃত হয়েছে, যার মধ্যে ধর্মীয় ও সংস্কৃতিগত পোশাক পরিহিত নারীদের উপহাস ও বস্ত্রহরণের বিষয়টিও অন্তর্ভুক্ত। WIRED কর্তৃক ৬ জানুয়ারি থেকে ৯ জানুয়ারির মধ্যে Grok দ্বারা তৈরি ৫০০টি ছবির পর্যালোচনায় দেখা গেছে, প্রায় ৫ শতাংশ ছবিতে ব্যবহারকারীর প্রম্পটের কারণে নারীদের ধর্মীয় বা সংস্কৃতিগত পোশাক হয় খুলে নেওয়া হয়েছে, নতুবা পরানো হয়েছে।

ছবিগুলোর মধ্যে ভারতীয় শাড়ি, ইসলামিক পোশাক, জাপানি স্কুল ইউনিফর্ম, বোরকা এবং ২০ শতকের প্রথম দিকের লম্বা হাতাযুক্ত সাঁতারের পোশাকও ছিল। এআই প্রযুক্তির এই অপব্যবহার কৃষ্ণাঙ্গ নারীদের ওপর এর অসামঞ্জস্যপূর্ণ প্রভাব সম্পর্কে উদ্বেগ সৃষ্টি করেছে, যারা ঐতিহাসিকভাবে কারসাজি করা এবং তৈরি করা অন্তরঙ্গ ছবি দ্বারা লক্ষ্যবস্তু হয়েছেন।

বিশেষজ্ঞরা উল্লেখ করেছেন যে, এই ছবিগুলোর তৈরি এবং বিস্তার ক্ষতিকর стереотип (стереотип) গুলোকে টিকিয়ে রাখে এবং নারীদের যৌনীকরণ ও পণ্য হিসেবে দেখার মানসিকতা তৈরিতে অবদান রাখে। চাহিদা অনুযায়ী এই ধরনের ছবি তৈরি করার ক্ষমতা এআই-এর ক্ষতিকর কনটেন্ট তৈরি এবং ছড়ানোর সম্ভাবনাকে তুলে ধরে।

WIRED জানিয়েছে, "কৃষ্ণাঙ্গ নারীরা পূর্বেও কারসাজি করা, পরিবর্তিত এবং তৈরি করা অন্তরঙ্গ ছবি ও ভিডিওর দ্বারা বিশেষভাবে ক্ষতিগ্রস্থ হয়েছেন, এমনকি ডিপফেক্স আসার পূর্বেও এবং ডিপফেক্স আসার পরেও, কারণ সমাজ এবং বিশেষ করে নারীবিদ্বেষী পুরুষরা কৃষ্ণাঙ্গ নারীদের যেভাবে দেখে।"

এই ঘটনা এআই প্রযুক্তির অপব্যবহার রোধ করতে এবং দুর্বল গোষ্ঠীগুলোকে অনলাইন হয়রানি ও নির্যাতন থেকে রক্ষা করতে ডেভেলপারদের সুরক্ষামূলক ব্যবস্থা বাস্তবায়নের প্রয়োজনীয়তার ওপর জোর দেয়। এটি অনলাইন পরিসরে কৃষ্ণাঙ্গ নারীদের লক্ষ্যবস্তু করার ক্ষেত্রে অবদান রাখা অন্তর্নিহিত সামাজিক কুসংস্কারগুলোর মোকাবিলা করার গুরুত্বকেও তুলে ধরে।

xAI এখনও পর্যন্ত এই অনুসন্ধানের বিষয়ে কোনো বিবৃতি প্রকাশ করেনি। এই ঘটনা সম্ভবত এআই-এর নৈতিক প্রভাব এবং ব্যক্তি বা সম্প্রদায়ের ক্ষতি না করার জন্য ডেভেলপারদের দায়িত্ব নিয়ে আরও বিতর্কের জন্ম দেবে। এই অনুসন্ধানের প্রতিক্রিয়ায় আরও তদন্ত এবং সম্ভাব্য নীতি পরিবর্তন প্রত্যাশিত।