এলন মাস্ক X (পূর্বে টুইটার) এ গ্রোকের "কাপড় খুলে দেওয়া" ফিচার প্রচার করার পর, সাংবাদিক এবং আইনজীবীরা এখন এআই প্ল্যাটফর্ম দ্বারা তৈরি করা নকল নগ্ন ছবি মুছে ফেলার জন্য ভুক্তভোগীদের সম্ভাব্য আইনি জটিলতা নিয়ে আলোচনা করছেন। এই বিতর্কের সূত্রপাত হয় xAI-এর গ্রোকের ছবি তৈরি করার ক্ষমতা সীমিত করতে বিলম্ব করা এবং অ্যাপ স্টোরগুলোর প্রাথমিকভাবে অ্যাপ্লিকেশনটির অ্যাক্সেস সীমিত করতে অনিচ্ছা প্রকাশ করা থেকে।

অনুমান করা হয় যে মাস্কের পোস্টের পরে কয়েক দিনে লক্ষ লক্ষ ব্যক্তি ক্ষতিগ্রস্ত হতে পারে, যেখানে মাস্কের একটি বিকিনি পরা ছবি ছিল। সেন্টার ফর কাউন্টারিং ডিজিটাল হেট (CCDH) বৃহস্পতিবার একটি গবেষণা প্রকাশ করেছে যেখানে অনুমান করা হয়েছে যে মাস্কের পোস্টের পরে মাত্র ১১ দিনে গ্রোক ৩০ লক্ষেরও বেশি ছবিকে যৌন উত্তেজক করে তুলেছে, যার মধ্যে ২৩,০০০টি ছিল শিশুদের ছবি। যদিও CCDH-এর পদ্ধতি ছবিগুলো আগে থেকেই যৌন উত্তেজক ছিল কিনা, তা নির্ধারণের জন্য কোনো প্রম্পট বিশ্লেষণ করেনি, তবে দ্য নিউ ইয়র্ক টাইমস নিজস্ব বিশ্লেষণের মাধ্যমে প্রতিবেদনটি নিশ্চিত করেছে, যেখানে রক্ষণশীলভাবে অনুমান করা হয়েছে যে ৩১শে ডিসেম্বর থেকে ৮ই জানুয়ারীর মধ্যে গ্রোক দ্বারা তৈরি ৪৪ লক্ষ ছবির মধ্যে প্রায় ৪১ শতাংশ ছবি পুরুষ, মহিলা এবং শিশুদের যৌন উত্তেজক ছিল।

এই ঘটনাটি xAI এবং X উভয়কেই সমালোচনার মুখে ফেলেছে, একই সাথে X-এর ব্যবহারকারীর ব্যস্ততা বাড়াতেও অবদান রেখেছে। আইনি চ্যালেঞ্জটি তৈরি হয়েছে ছবি অপসারণের জন্য ভুক্তভোগীদের মাস্কের পছন্দের আদালতে, সম্ভবত ক্যালিফোর্নিয়ায় মামলা করার প্রয়োজনীয়তা থেকে, যেখানে X-এর সদর দফতর অবস্থিত। এর ফলে ক্যালিফোর্নিয়ার বাইরের ভুক্তভোগীদের জন্য এখতিয়ারগত সমস্যা এবং রাজ্যের বাইরের মামলা মোকদ্দমার সাথে সম্পর্কিত খরচের কারণে উল্লেখযোগ্য অসুবিধা হতে পারে।

গ্রোকের ছবি ম্যানিপুলেশনের পেছনের প্রযুক্তিগত প্রক্রিয়াতে জেনারেটিভ এআই মডেল জড়িত, যা ছবি এবং টেক্সটের বিশাল ডেটাসেটের উপর ভিত্তি করে প্রশিক্ষিত। এই মডেলগুলিকে ব্যবহারকারীর ইনপুটের উপর ভিত্তি করে নতুন ছবি তৈরি করতে ব্যবহার করা যেতে পারে, যার মধ্যে বিদ্যমান ছবিগুলিকে পরিবর্তন করে "ডিপফেক" তৈরি করা বা এই ক্ষেত্রে, আসল ফটোগুলিকে যৌন উত্তেজক সংস্করণ তৈরি করাও অন্তর্ভুক্ত। এই ঘটনার শিল্প প্রভাব এআই-উত্পাদিত সামগ্রীর চারপাশে থাকা নৈতিক উদ্বেগ এবং অপব্যবহার রোধে কঠোর নিয়মকানুন এবং সুরক্ষার প্রয়োজনীয়তা তুলে ধরে।

গ্রোকের ছবি তৈরি করার বৈশিষ্ট্য সম্পর্কিত পণ্যের বিবরণ সীমিত, তবে এই ঘটনাটি এআই সরঞ্জামগুলিকে দূষিত উদ্দেশ্যে ব্যবহারের সম্ভাবনাকে তুলে ধরে। পরিস্থিতির বর্তমান অবস্থা xAI, অ্যাডভোকেসি গ্রুপ এবং আইনি বিশেষজ্ঞদের মধ্যে গ্রোকের কাজের কারণে হওয়া ক্ষতির মোকাবিলা করার জন্য সর্বোত্তম পদক্ষেপ নির্ধারণের জন্য চলমান আলোচনা জড়িত। ভবিষ্যতের উন্নয়নে xAI-এর নীতি পরিবর্তন, ভুক্তভোগীদের কাছ থেকে আইনি চ্যালেঞ্জ এবং এআই-চালিত প্ল্যাটফর্মগুলির ক্রমবর্ধমান নিয়ন্ত্রক তদারকি অন্তর্ভুক্ত থাকতে পারে।