ক্যালিফোর্নিয়ার অ্যাটর্নি জেনারেল রব বন্টা শুক্রবার xAI-কে একটি কারণ দর্শানোর নোটিশ (cease-and-desist letter) জারি করেছেন, যাতে সংস্থাটিকে অবিলম্বে ডিপফেক, সম্মতিবিহীন অন্তরঙ্গ ছবি এবং শিশু যৌন নির্যাতন সামগ্রী (CSAM) তৈরি ও বিতরণ বন্ধ করার দাবি জানানো হয়েছে। এই পদক্ষেপটি এই সপ্তাহের গোড়ার দিকে ক্যালিফোর্নিয়ার অ্যাটর্নি জেনারেলের অফিসের xAI, ইলন মাস্কের কৃত্রিম বুদ্ধিমত্তা বিষয়ক স্টার্টআপ, নিয়ে করা একটি ঘোষণার ফলস্বরূপ। খবরে প্রকাশ, এই সংস্থার চ্যাটবট, গ্রোক, নারীদের এবং নাবালিকাদের সম্মতিবিহীন যৌন চিত্র তৈরি করতে ব্যবহৃত হচ্ছে।

বন্টা একটি প্রেস বিজ্ঞপ্তিতে বলেছেন, "আজ, আমি xAI-কে একটি কারণ দর্শানোর নোটিশ পাঠিয়েছি, যাতে সংস্থাটিকে অবিলম্বে ডিপফেক, সম্মতিবিহীন অন্তরঙ্গ ছবি এবং শিশু যৌন নির্যাতন সামগ্রী তৈরি ও বিতরণ বন্ধ করার দাবি জানানো হয়েছে। এই ধরণের সামগ্রী তৈরি করা অবৈধ। আমি আশা করি xAI অবিলম্বে এটি মেনে চলবে। ক্যালিফোর্নিয়ার CSAM-এর প্রতি জিরো টলারেন্স নীতি রয়েছে।"

অ্যাটর্নি জেনারেলের অফিসের আরও দাবি, xAI সম্মতিবিহীন নগ্ন ছবি তৈরি করতে সাহায্য করছে, যা অনলাইনে নারী ও মেয়েদের হয়রানি করার জন্য ব্যবহার করা হচ্ছে বলে অভিযোগ। সংস্থাটি xAI-কে এই সমস্যাগুলি সমাধানের জন্য কী পদক্ষেপ নিচ্ছে, তা জানানোর জন্য পাঁচ দিন সময় দিয়েছে।

এই বিতর্কের কেন্দ্রবিন্দুতে রয়েছে গ্রোকের "স্পাইসি মোড" বৈশিষ্ট্যটি। এই বৈশিষ্ট্যটি এআই থেকে আরও অবাধ এবং সম্ভাব্য বিতর্কিত প্রতিক্রিয়া জানানোর জন্য ডিজাইন করা হয়েছে, যা ব্যবহারকারীদের যৌনতাপূর্ণ বিষয়বস্তু তৈরি করার সুযোগ করে দিয়েছে বলে মনে করা হচ্ছে। এই প্রেক্ষাপটে ডিপফেক বলতে বোঝায় এআই-উত্পাদিত ছবি বা ভিডিও যা বিশ্বাসযোগ্যভাবে কোনও ব্যক্তিকে এমন কিছু করতে বা বলতে চিত্রিত করে যা তারা বাস্তবে কখনও করেনি। এই প্রযুক্তি উল্লেখযোগ্য নৈতিক ও আইনি উদ্বেগ তৈরি করে, বিশেষ করে যখন সম্মতিবিহীন পর্নোগ্রাফি তৈরি করতে বা শিশুদের শোষণ করতে এটি ব্যবহার করা হয়।

ডিপফেক তৈরি করার জন্য এআই-এর ব্যবহার ক্রমশ অত্যাধুনিক হয়ে উঠছে, যার ফলে আসল এবং জাল বিষয়বস্তুর মধ্যে পার্থক্য করা কঠিন হয়ে পড়েছে। এটি আইন প্রয়োগকারী সংস্থা এবং বিষয়বস্তু নিরীক্ষণের প্রচেষ্টার জন্য একটি বড় চ্যালেঞ্জ তৈরি করেছে। এআই নীতিশাস্ত্রের বিশেষজ্ঞরা দীর্ঘদিন ধরে এই প্রযুক্তিগুলির অপব্যবহারের সম্ভাবনা সম্পর্কে সতর্ক করেছেন, বিশেষ করে ক্ষতিকর এবং অবৈধ বিষয়বস্তু তৈরির ক্ষেত্রে।

xAI এখনও পর্যন্ত কারণ দর্শানোর নোটিশের প্রতিক্রিয়ায় কোনও আনুষ্ঠানিক বিবৃতি জারি করেনি। সংস্থাটি এখন ক্যালিফোর্নিয়ার অ্যাটর্নি জেনারেলের অফিসের কাছে প্রমাণ করার চ্যালেঞ্জের মুখোমুখি যে তারা তাদের প্রযুক্তির অপব্যবহার রোধ করতে এবং সম্মতিবিহীন অন্তরঙ্গ ছবি তৈরি ও বিতরণ থেকে ব্যক্তিদের রক্ষা করতে পর্যাপ্ত ব্যবস্থা নিচ্ছে। এই তদন্তের ফলাফল এআই প্রযুক্তির নিয়ন্ত্রণ ও বিকাশের জন্য গুরুত্বপূর্ণ প্রভাব ফেলতে পারে, বিশেষ করে যেগুলির বাস্তবসম্মত এবং সম্ভাব্য ক্ষতিকর বিষয়বস্তু তৈরি করার ক্ষমতা রয়েছে।