ক্যালিফোর্নিয়ার অ্যাটর্নি জেনারেল রব বোন্টা শুক্রবার xAI-কে একটি কারণ দর্শানোর নোটিশ জারি করেছেন, যাতে কোম্পানিটিকে অবিলম্বে ডিপফেক, সম্মতিবিহীন অন্তরঙ্গ ছবি এবং শিশু যৌন নির্যাতন সামগ্রী (CSAM) তৈরি ও বিতরণ বন্ধ করার দাবি জানানো হয়েছে। এই পদক্ষেপটি এই সপ্তাহের গোড়ার দিকে ক্যালিফোর্নিয়ার অ্যাটর্নি জেনারেলের অফিসের xAI-এর চ্যাটবট, গ্রোক, নারী ও নাবালিকাদের সম্মতিবিহীন যৌন চিত্র তৈরি করতে ব্যবহৃত হচ্ছে এমন প্রতিবেদনের ভিত্তিতে তদন্তের ঘোষণার পরে নেওয়া হয়েছে।

বোন্টা একটি প্রেস বিজ্ঞপ্তিতে বলেন, "আজ, আমি xAI-কে একটি কারণ দর্শানোর নোটিশ পাঠিয়েছি, যাতে কোম্পানিটিকে অবিলম্বে ডিপফেক, সম্মতিবিহীন অন্তরঙ্গ ছবি এবং শিশু যৌন নির্যাতন সামগ্রী তৈরি ও বিতরণ বন্ধ করার দাবি জানানো হয়েছে।" "এই সামগ্রী তৈরি করা অবৈধ। আমি আশা করি xAI অবিলম্বে এটি মেনে চলবে। ক্যালিফোর্নিয়ার CSAM-এর প্রতি জিরো টলারেন্স রয়েছে।"

অ্যাটর্নি জেনারেলের অফিসের দাবি, xAI সম্মতিবিহীন নগ্ন ছবি তৈরি করতে সহায়তা করছে, যা অনলাইনে নারী ও মেয়েদের হয়রানি করার জন্য ব্যবহার করা হচ্ছে। সংস্থাটি আশা করে যে xAI এই সমস্যাগুলি সমাধানের জন্য কী পদক্ষেপ নিচ্ছে তা পাঁচ দিনের মধ্যে প্রদর্শন করবে।

বিতর্কের কেন্দ্রবিন্দুতে রয়েছে গ্রোকের "স্পাইসি মোড" বৈশিষ্ট্য, যা xAI এআই থেকে আরও অবাধ প্রতিক্রিয়া জানানোর অনুমতি দেওয়ার জন্য তৈরি করেছে। এই বৈশিষ্ট্যটি, যা আরও আকর্ষক এবং উত্তেজক মিথস্ক্রিয়া প্রদানের জন্য ডিজাইন করা হয়েছে, তা ক্ষতিকর এবং অবৈধ সামগ্রী তৈরি করতে ব্যবহৃত হচ্ছে। ডিপফেক, যা এআই-উত্পাদিত সিন্থেটিক মিডিয়া, তা বিশ্বাসযোগ্যভাবে এমন ব্যক্তিদের চিত্রিত করতে পারে যারা এমন কিছু করছেন বা বলছেন যা তারা কখনও করেননি, যা মানহানি, গোপনীয়তা লঙ্ঘন এবং সম্মতিবিহীন পর্নোগ্রাফি তৈরিতে অপব্যবহারের সম্ভাবনা সম্পর্কে গুরুতর উদ্বেগ সৃষ্টি করে।

এআই প্রযুক্তি যত উন্নত হচ্ছে, এআই-উত্পাদিত সামগ্রীর আইনি ও নৈতিক প্রভাব ততই গুরুত্বপূর্ণ হয়ে উঠছে। বাস্তবসম্মত এবং বিশ্বাসযোগ্য জাল ছবি এবং ভিডিও তৈরি করার ক্ষমতা জবাবদিহিতা এবং এআই ডেভেলপারদের তাদের প্রযুক্তির অপব্যবহার রোধ করার দায়িত্ব সম্পর্কে প্রশ্ন তোলে। ক্যালিফোর্নিয়ার অ্যাটর্নি জেনারেলের অফিস একটি দৃঢ় অবস্থান নিয়েছে, এই ধরনের সামগ্রী তৈরি এবং বিতরণের অবৈধতার উপর জোর দিয়েছে এবং xAI-এর কাছ থেকে অবিলম্বে পদক্ষেপের দাবি জানিয়েছে।

তদন্ত এবং কারণ দর্শানোর নোটিশ এআই নিয়ন্ত্রণের চ্যালেঞ্জ এবং এই শক্তিশালী সরঞ্জামগুলি ব্যক্তিবিশেষের ক্ষতি বা অবৈধ সামগ্রী তৈরি করতে ব্যবহৃত না হয় তা নিশ্চিত করার বিষয়টিকে তুলে ধরে। এই ঘটনাটি এআই সংস্থাগুলির তাদের প্রযুক্তির সম্ভাব্য অপব্যবহার রোধ করতে এবং ক্ষতিকর সামগ্রী তৈরি ও বিতরণ বন্ধ করতে সুরক্ষামূলক ব্যবস্থা বাস্তবায়নের প্রয়োজনীয়তার উপরও জোর দেয়। অ্যাটর্নি জেনারেলের দাবির প্রতি xAI-এর প্রতিক্রিয়া এবং এই গুরুতর উদ্বেগগুলি মোকাবিলার জন্য তাদের পরিকল্পনা তুলে ধরার জন্য পরবর্তী পাঁচ দিন গুরুত্বপূর্ণ হবে।