ক্যালিফোর্নিয়ার অ্যাটর্নি জেনারেল রব বন্টা শুক্রবার xAI-কে একটি কারণ দর্শানোর নোটিশ জারি করেছেন, যাতে কোম্পানিটিকে অবিলম্বে ডিপফেক, সম্মতিবিহীন, অন্তরঙ্গ ছবি এবং শিশু যৌন নির্যাতন সামগ্রী (CSAM) তৈরি এবং বিতরণ বন্ধ করার দাবি জানানো হয়েছে। অ্যাটর্নি জেনারেলের কার্যালয় থেকে পূর্বে ঘোষণা করা হয়েছিল যে তারা xAI, ইলন মাস্কের কৃত্রিম বুদ্ধিমত্তা স্টার্টআপ, এর চ্যাটবট গ্রোকের মাধ্যমে নারী ও নাবালিকাদের সম্মতিবিহীন যৌন চিত্র তৈরি করার অভিযোগের তদন্ত করছে। এই পদক্ষেপ সেই ঘোষণারই ফলস্বরূপ।

অ্যাটর্নি জেনারেলের কার্যালয় অভিযোগ করেছে যে xAI সম্মতিবিহীন নগ্ন ছবি তৈরি করতে সাহায্য করছে, যা অনলাইনে নারী ও মেয়েদের হয়রানি করার জন্য ব্যবহার করা হচ্ছে। বন্টা একটি প্রেস বিজ্ঞপ্তিতে বলেন, "আজ, আমি xAI-কে একটি কারণ দর্শানোর নোটিশ পাঠিয়েছি, যাতে কোম্পানিটিকে অবিলম্বে ডিপফেক, সম্মতিবিহীন, অন্তরঙ্গ ছবি এবং শিশু যৌন নির্যাতন সামগ্রী তৈরি এবং বিতরণ বন্ধ করার দাবি জানানো হয়েছে।" "এই ধরনের সামগ্রী তৈরি করা অবৈধ। আমি আশা করি xAI অবিলম্বে এটি মেনে চলবে। ক্যালিফোর্নিয়ার CSAM-এর প্রতি জিরো টলারেন্স নীতি রয়েছে।"

এই বিতর্কের কেন্দ্রবিন্দুতে রয়েছে গ্রোকের "স্পাইসি মোড" বৈশিষ্ট্য, যা xAI তৈরি করেছে এআই থেকে আরও অবাধ এবং সম্ভাব্য বিতর্কিত প্রতিক্রিয়া পাওয়ার জন্য। এই বৈশিষ্ট্যটি, এআই ইন্টারঅ্যাকশনের সীমানা প্রসারিত করার উদ্দেশ্যে তৈরি করা হলেও, ক্ষতিকারক এবং অবৈধ সামগ্রী তৈরির দরজা খুলে দিয়েছে। ডিপফেক, যা এআই-উত্পাদিত সিন্থেটিক মিডিয়া, এটি এমনভাবে তৈরি করা যায় যেখানে কোনো ব্যক্তি কখনও করেননি বা বলেননি এমন কিছু কাজ করছেন বা বলছেন, যা মানহানি, গোপনীয়তা লঙ্ঘন এবং সম্মতিবিহীন পর্নোগ্রাফি তৈরিতে অপব্যবহারের সম্ভাবনা সম্পর্কে গুরুতর উদ্বেগ সৃষ্টি করে।

অ্যাটর্নি জেনারেলের কার্যালয় xAI-কে এই সমস্যাগুলো সমাধানের জন্য তারা যে পদক্ষেপ নিচ্ছে, তা প্রমাণ করার জন্য পাঁচ দিন সময় দিয়েছে। এই তদন্তটি এআই-উত্পাদিত সামগ্রী নিয়ন্ত্রণ এবং শক্তিশালী এআই সরঞ্জামগুলোর অপব্যবহারের সম্ভাবনা সম্পর্কিত ক্রমবর্ধমান চ্যালেঞ্জগুলোকে তুলে ধরে। এটি এআই ডেভেলপারদের তাদের প্রযুক্তিগুলো খারাপ উদ্দেশ্যে ব্যবহার করা থেকে रोकनेর দায়িত্ব সম্পর্কেও প্রশ্ন তোলে।

গ্রোকের মতো জেনারেটিভ এআই মডেলগুলোর উত্থান এআই-এর নৈতিক প্রভাব এবং সুরক্ষার প্রয়োজনীয়তা নিয়ে বিতর্ক সৃষ্টি করেছে। বিশেষজ্ঞরা ক্ষতিকারক সামগ্রী তৈরি এবং বিস্তার রোধ করতে অন্তর্নির্মিত সুরক্ষা ব্যবস্থা এবং সামগ্রী নিরীক্ষণ নীতিগুলোর সাথে এআই সিস্টেম তৈরি করার ওপর জোর দেন। ক্যালিফোর্নিয়ার অ্যাটর্নি জেনারেলের xAI-এর বিরুদ্ধে তদন্ত তাদের এআই প্রযুক্তির কারণে সৃষ্ট সম্ভাব্য ক্ষতির জন্য প্রযুক্তি সংস্থাগুলোকে জবাবদিহি করার এবং অনলাইন শোষণ ও নির্যাতন থেকে ব্যক্তিদের রক্ষার জন্য একটি বৃহত্তর প্রচেষ্টার অংশ। এই তদন্তের ফলাফল এআই সংস্থাগুলোকে কীভাবে নিয়ন্ত্রণ করা হয় এবং তাদের প্ল্যাটফর্ম দ্বারা তৈরি সামগ্রীর জন্য কীভাবে দায়ী করা হয়, তার একটি নজির স্থাপন করতে পারে।