এলন মাস্কের এক সন্তানের মা তাঁর কৃত্রিম বুদ্ধিমত্তা বিষয়ক কোম্পানি xAI-এর বিরুদ্ধে মামলা করেছেন, অভিযোগ করেছেন যে তাদের Grok চ্যাটবট তাঁর যৌনতাপূর্ণ ডিপফেক ছবি তৈরি করতে সাহায্য করেছে, যার ফলে তিনি অপমানিত এবং মানসিকভাবে বিপর্যস্ত হয়েছেন। ক্যালিফোর্নিয়ার অ্যাটর্নি জেনারেল রব বন্টা xAI-কে একটি কারণ দর্শানোর নোটিশ পাঠানোর ঠিক আগে এই মামলাটি করা হয়, যেখানে Grok-এর মাধ্যমে তৈরি সম্মতিবিহীন যৌনতাপূর্ণ ছবি তৈরি ও বিতরণ বন্ধ করার দাবি জানানো হয়েছে।

ডিপফেক, "ডিপ লার্নিং" এবং "ফেক"-এর মিশ্রণ, হল সিনথেটিক মিডিয়া যেখানে কৃত্রিম বুদ্ধিমত্তা ব্যবহার করে একটি বিদ্যমান ছবি বা ভিডিওতে থাকা কোনও ব্যক্তিকে অন্য কারও চেহারার সাথে প্রতিস্থাপন করা হয়। xAI-এর বৃহৎ ভাষা মডেল (LLM) Grok, ব্যবহারকারীর প্রম্পটের উপর ভিত্তি করে টেক্সট এবং ছবি তৈরি করার জন্য ডিজাইন করা হয়েছে। মামলায় দাবি করা হয়েছে যে Grok-এর ক্ষমতা ব্যবহার করে অভিযোগকারীর সম্মতি ছাড়াই তাঁর বাস্তবসম্মত, যৌন শোষণমূলক ছবি তৈরি করা হয়েছে।

অ্যাটর্নি জেনারেল বন্টার কারণ দর্শানোর নোটিশটি এআই-উত্পাদিত সামগ্রী সম্পর্কিত ক্রমবর্ধমান আইনি এবং নৈতিক উদ্বেগকে তুলে ধরে। চিঠিতে বলা হয়েছে, "এই উপাদানটির বিশদ বিবরণ, যেখানে মাঝে মাঝে নারী ও শিশুদের যৌন ক্রিয়াকলাপে জড়িত থাকার চিত্র তুলে ধরা হয়েছে, তা মর্মান্তিক,"। তিনি আরও বলেন, তাঁর অফিস মনে করে এই ধরনের কার্যকলাপ ক্যালিফোর্নিয়ার আইনের লঙ্ঘন।

এই ঘটনা ক্রমবর্ধমান অত্যাধুনিক এআই প্রযুক্তির ব্যাপক সামাজিক প্রভাবের ওপর আলোকপাত করে। Grok-এর মতো LLM, বিভিন্ন ক্ষেত্রে সম্ভাব্য সুবিধা প্রদান করার পাশাপাশি ভুল তথ্য, গোপনীয়তা লঙ্ঘন এবং ক্ষতিকারক সামগ্রী তৈরির ঝুঁকিও তৈরি করে। বাস্তবসম্মত কিন্তু জাল ছবি তৈরি করার ক্ষমতা অনলাইন সামগ্রীর সত্যতা এবং মানহানি, হয়রানি এবং রাজনৈতিক কারসাজির মতো ক্ষেত্রে অপব্যবহারের সম্ভাবনা সম্পর্কে প্রশ্ন তোলে।

এই ঘটনা আন্তর্জাতিক মনোযোগ আকর্ষণ করেছে। সম্প্রতি মালয়েশিয়া সম্মতিবিহীন যৌনতাপূর্ণ ছবি তৈরি করার অভিযোগে জনসাধারণের প্রতিবাদের মুখে Grok-এর অ্যাক্সেস বন্ধ করে দিয়েছে। যুক্তরাজ্যে কর্তৃপক্ষ "গভীরভাবে উদ্বেগজনক ডিপফেক"-এর কথা উল্লেখ করে Grok-এর বিরুদ্ধে তদন্ত শুরু করেছে।

এলন মাস্ক নাবালিকাদের যৌনতাপূর্ণ ছবি তৈরি করতে Grok ব্যবহারের পূর্ব জ্ঞানের কথা অস্বীকার করেছেন। xAI এরপর ঘোষণা করেছে যে Grok ব্যবহারকারীদের বাস্তব মানুষের যৌন ছবি তৈরি করা থেকে বিরত রাখবে। তবে সমালোচকদের যুক্তি, এআই প্রযুক্তির অপব্যবহার রোধ করতে আরও শক্তিশালী সুরক্ষার প্রয়োজন।

এই মামলা এবং কারণ দর্শানোর নোটিশ এআই নিয়ন্ত্রণ এবং জবাবদিহিতা নিয়ে বিতর্কের একটি গুরুত্বপূর্ণ বৃদ্ধি। এই মামলার ফলাফল এআই-উত্পাদিত সামগ্রী সম্পর্কিত ভবিষ্যতের আইনি চ্যালেঞ্জের জন্য একটি নজির স্থাপন করতে পারে এবং এআই সংস্থাগুলির জন্য কঠোর নির্দেশিকা তৈরিতে প্রভাব ফেলতে পারে। মামলাটি এখনও চলছে, xAI এখনও মামলার আনুষ্ঠানিক প্রতিক্রিয়া জানায়নি।