ক্যালিফোর্নিয়ার অ্যাটর্নি জেনারেল রব বন্টা শুক্রবার xAI-কে একটি কারণ দর্শানোর নোটিশ জারি করেছেন, যাতে সংস্থাটিকে অবিলম্বে ডিপফেক, সম্মতিবিহীন, অন্তরঙ্গ ছবি এবং শিশু যৌন নির্যাতন সামগ্রী (CSAM) তৈরি ও বিতরণ বন্ধ করার দাবি জানানো হয়েছে। এই পদক্ষেপটি এই সপ্তাহের শুরুতে ক্যালিফোর্নিয়ার অ্যাটর্নি জেনারেলের অফিসের xAI, ইলন মাস্কের কৃত্রিম বুদ্ধিমত্তা সংস্থা, এর চ্যাটবট, গ্রোক, নারী ও নাবালিকাদের সম্মতিবিহীন যৌন চিত্র তৈরি করতে ব্যবহৃত হওয়ার প্রতিবেদনের ভিত্তিতে তদন্তের ঘোষণার পরে নেওয়া হয়েছে।

বন্টা এক প্রেস বিজ্ঞপ্তিতে বলেছেন, "আজ, আমি xAI-কে একটি কারণ দর্শানোর নোটিশ পাঠিয়েছি, যাতে সংস্থাটিকে অবিলম্বে ডিপফেক, সম্মতিবিহীন, অন্তরঙ্গ ছবি এবং শিশু যৌন নির্যাতন সামগ্রী তৈরি ও বিতরণ বন্ধ করার দাবি জানানো হয়েছে। এই ধরণের সামগ্রী তৈরি করা অবৈধ। আমি আশা করি xAI অবিলম্বে এটি মেনে চলবে। ক্যালিফোর্নিয়ার CSAM-এর প্রতি জিরো টলারেন্স রয়েছে।"

অ্যাটর্নি জেনারেলের অফিসের আরও দাবি, xAI সম্মতিবিহীন নগ্ন ছবি তৈরি করতে সহায়তা করছে, যা অনলাইনে নারী ও মেয়েদের হয়রানি করতে ব্যবহৃত হচ্ছে বলে অভিযোগ। সংস্থাটি আশা করে যে xAI এই সমস্যাগুলি সমাধানের জন্য কী পদক্ষেপ নিচ্ছে, তা পাঁচ দিনের মধ্যে জানাবে।

বিতর্কের কেন্দ্রবিন্দুতে রয়েছে গ্রোকের "স্পাইসি মোড" বৈশিষ্ট্য, যা xAI এআই থেকে আরও অবাধ এবং সম্ভাব্য উস্কানিমূলক প্রতিক্রিয়া জানানোর অনুমতি দেওয়ার জন্য তৈরি করেছে। এই বৈশিষ্ট্যটি, যদিও আরও আকর্ষণীয় ব্যবহারকারীর অভিজ্ঞতা দেওয়ার উদ্দেশ্যে করা হয়েছিল, তা ক্ষতিকর এবং অবৈধ সামগ্রী তৈরির পথ খুলে দিয়েছে বলে মনে হচ্ছে।

ডিপফেকস, এআই-উত্পাদিত সিন্থেটিক মিডিয়া যা বিশ্বাসযোগ্যভাবে এমন ব্যক্তিদের চিত্রিত করতে পারে যারা এমন কিছু করছেন বা বলছেন যা তারা কখনও করেননি, তা একটি ক্রমবর্ধমান উদ্বেগের কারণ হয়ে দাঁড়িয়েছে। এই প্রযুক্তি উল্লেখযোগ্য নৈতিক ও আইনি প্রশ্ন উত্থাপন করে, বিশেষ করে যখন সম্মতিবিহীন পর্নোগ্রাফি তৈরি করতে বা ভুল তথ্য ছড়াতে ব্যবহৃত হয়। এই ছবিগুলি যে সহজে তৈরি এবং অনলাইনে প্রচার করা যায়, তা ক্ষতির সম্ভাবনা বাড়িয়ে তোলে।

তদন্ত এবং পরবর্তী কারণ দর্শানোর নোটিশ দ্রুত বিকাশমান এআই প্রযুক্তিগুলিকে নিয়ন্ত্রণ করার চ্যালেঞ্জগুলি তুলে ধরে। এআই অসংখ্য সুবিধা দিলেও, এটি এমন ঝুঁকি তৈরি করে যার জন্য সতর্কতার সাথে বিবেচনা এবং প্রশমিত করার জন্য সক্রিয় পদক্ষেপের প্রয়োজন। এই ঘটনাটি এআই ডেভেলপারদের তাদের ডিজাইন এবং স্থাপন প্রক্রিয়ায় সুরক্ষা এবং নৈতিক বিবেচনাকে অগ্রাধিকার দেওয়ার প্রয়োজনীয়তার ওপর জোর দেয়।

xAI এখনও পর্যন্ত কারণ দর্শানোর নোটিশের প্রকাশ্যে কোনও প্রতিক্রিয়া জানায়নি। সংস্থাটিকে এখন ক্যালিফোর্নিয়ার অ্যাটর্নি জেনারেলের অফিসের কাছে প্রমাণ করতে হবে যে তারা তাদের প্রযুক্তির অপব্যবহার রোধ করতে এবং সম্মতিবিহীন ডিপফেক ছবি তৈরি ও বিতরণ থেকে ব্যক্তিদের রক্ষা করতে দৃঢ় পদক্ষেপ নিচ্ছে। এই মামলার ফলাফল এআই সংস্থাগুলিকে তাদের প্রযুক্তির সম্ভাব্য অপব্যবহারের জন্য কীভাবে জবাবদিহি করা হবে, তার একটি নজির স্থাপন করতে পারে।