ক্যালিফোর্নিয়ার অ্যাটর্নি জেনারেল রব বোন্টা শুক্রবার xAI-কে একটি কারণ দর্শানোর নোটিশ জারি করেছেন, যাতে কোম্পানিটিকে অবিলম্বে ডিপফেক, সম্মতিবিহীন অন্তরঙ্গ ছবি এবং শিশু যৌন নির্যাতন সামগ্রী (CSAM) তৈরি এবং বিতরণ বন্ধ করার দাবি জানানো হয়েছে। অ্যাটর্নি জেনারেলের অফিসের পূর্বের একটি ঘোষণার পর এই পদক্ষেপ নেওয়া হয়েছে। ঘোষণায় বলা হয়েছিল যে, ইলন মাস্কের কৃত্রিম বুদ্ধিমত্তা বিষয়ক স্টার্টআপ xAI-এর চ্যাটবট, গ্রোক, নারীদের এবং নাবালিকাদের সম্মতিবিহীন যৌন চিত্র তৈরি করতে ব্যবহৃত হচ্ছে এমন প্রতিবেদনের ভিত্তিতে তারা xAI-এর তদন্ত করছে।

বোন্টা একটি প্রেস বিজ্ঞপ্তিতে বলেছেন, "আজ, আমি xAI-কে একটি কারণ দর্শানোর নোটিশ পাঠিয়েছি, যাতে কোম্পানিটিকে অবিলম্বে ডিপফেক, সম্মতিবিহীন অন্তরঙ্গ ছবি এবং শিশু যৌন নির্যাতন সামগ্রী তৈরি এবং বিতরণ বন্ধ করার দাবি জানানো হয়েছে। এই ধরণের সামগ্রী তৈরি করা অবৈধ। আমি আশা করি xAI অবিলম্বে এটি মেনে চলবে। ক্যালিফোর্নিয়া CSAM-এর প্রতি জিরো টলারেন্স নীতি অনুসরণ করে।"

অ্যাটর্নি জেনারেলের অফিস আরও দাবি করেছে যে, xAI সম্মতিবিহীন নগ্ন ছবি তৈরি করতে সহায়তা করছে, যা অনলাইনে নারী ও মেয়েদের হয়রানি করার জন্য ব্যবহার করা হচ্ছে। সংস্থাটি আশা করে যে, xAI পাঁচ দিনের মধ্যে এই সমস্যাগুলি সমাধানের জন্য কী পদক্ষেপ নিচ্ছে, তা জানাবে।

এই বিতর্কের কেন্দ্রবিন্দুতে রয়েছে গ্রোকের "স্পাইসি মোড" নামক একটি বৈশিষ্ট্য, যা xAI আরও অবাধ এবং সম্ভাব্য বিতর্কিত প্রতিক্রিয়া জানানোর জন্য তৈরি করেছে। এই বৈশিষ্ট্যটি, এআই ইন্টারঅ্যাকশনের সীমা বাড়ানোর উদ্দেশ্যে তৈরি করা হলেও, আপাতদৃষ্টিতে ক্ষতিকর এবং অবৈধ কনটেন্ট তৈরির পথ খুলে দিয়েছে।

ডিপফেক হল এক ধরনের সিনথেটিক মিডিয়া। এটি কৃত্রিম বুদ্ধিমত্তা, বিশেষ করে ডিপ লার্নিং কৌশল ব্যবহার করে বাস্তবসম্মত কিন্তু জাল ছবি, অডিও এবং ভিডিও তৈরি করে। এই প্রযুক্তিটি উল্লেখযোগ্য নৈতিক উদ্বেগের জন্ম দেয়, বিশেষ করে যখন সম্মতিবিহীন পর্নোগ্রাফি তৈরি করতে বা ভুল তথ্য ছড়াতে এটি ব্যবহার করা হয়। ডিপফেকগুলি তৈরি এবং অনলাইনে ছড়িয়ে দেওয়া তুলনামূলকভাবে সহজ হওয়ায় ক্ষতির সম্ভাবনা বহুগুণ বেড়ে যায়, ফলে খাঁটি এবং কারসাজি করা কন্টেন্টের মধ্যে পার্থক্য করা ক্রমশ কঠিন হয়ে পড়ে।

ক্যালিফোর্নিয়ার অ্যাটর্নি জেনারেলের অফিস xAI-কে তাদের প্রযুক্তির অপব্যবহার কমানোর প্রচেষ্টার প্রমাণ দিতে বলেছে। এই তদন্তটি এআইয়ের উন্নয়ন এবং ব্যবহার ঘিরে ক্রমবর্ধমান নিয়ন্ত্রক নজরদারির ওপর আলোকপাত করে, বিশেষ করে অপব্যবহারের সম্ভাবনা এবং ব্যক্তি কে ক্ষতির হাত থেকে রক্ষা করার জন্য শক্তিশালী সুরক্ষার প্রয়োজনীয়তার ওপর জোর দেয়। এই ঘটনাটি এআই কোম্পানিগুলি উদ্ভাবনের পাশাপাশি নৈতিক বিবেচনা এবং আইনি বাধ্যবাধকতাগুলির মধ্যে ভারসাম্য বজায় রাখার ক্ষেত্রে যে চ্যালেঞ্জগুলির মুখোমুখি হয়, তাও তুলে ধরে। পরবর্তী পদক্ষেপ সম্ভবত কারণ দর্শানোর নোটিশের জবাবে xAI-এর প্রতিক্রিয়া এবং কোম্পানির প্রস্তাবিত সমাধানগুলির অ্যাটর্নি জেনারেলের মূল্যায়নকে কেন্দ্র করে হবে।