ক্যালিফোর্নিয়ার অ্যাটর্নি জেনারেল রব বোন্টা শুক্রবার xAI-কে একটি কারণ দর্শানোর নোটিশ জারি করেছেন, যাতে কোম্পানিটিকে অবিলম্বে ডিপফেক, সম্মতিবিহীন অন্তরঙ্গ ছবি এবং শিশু যৌন নির্যাতন সামগ্রী (CSAM) তৈরি ও বিতরণ বন্ধ করার দাবি জানানো হয়েছে। এই পদক্ষেপটি এই সপ্তাহের গোড়ার দিকে ক্যালিফোর্নিয়ার অ্যাটর্নি জেনারেলের অফিসের xAI, এলন মাস্কের কৃত্রিম বুদ্ধিমত্তা স্টার্টআপ, গ্রোক নামক চ্যাটবট ব্যবহার করে নারী ও নাবালিকাদের সম্মতিবিহীন যৌন চিত্র তৈরি করার প্রতিবেদনের তদন্তের ঘোষণার পরে নেওয়া হয়েছে।

অ্যাটর্নি জেনারেলের অফিসের অভিযোগ, xAI বৃহৎ পরিসরে সম্মতিবিহীন নগ্ন ছবি তৈরি করতে সাহায্য করছে, যা পরে অনলাইনে নারী ও মেয়েদের হয়রানি করার জন্য ব্যবহার করা হচ্ছে। বোন্টা এক প্রেস বিজ্ঞপ্তিতে বলেন, "আজ, আমি xAI-কে একটি কারণ দর্শানোর নোটিশ পাঠিয়েছি, যাতে কোম্পানিটিকে অবিলম্বে ডিপফেক, সম্মতিবিহীন অন্তরঙ্গ ছবি এবং শিশু যৌন নির্যাতন সামগ্রী তৈরি ও বিতরণ বন্ধ করার দাবি জানানো হয়েছে।" "এই উপাদান তৈরি করা অবৈধ। আমি আশা করি xAI অবিলম্বে এটি মেনে চলবে। ক্যালিফোর্নিয়ার CSAM-এর প্রতি জিরো টলারেন্স রয়েছে।"

সংস্থাটি xAI-কে এই সমস্যাগুলি সমাধানের জন্য তারা কী পদক্ষেপ নিচ্ছে, তা প্রদর্শনের জন্য পাঁচ দিন সময় দিয়েছে। বিতর্কের কেন্দ্রবিন্দুতে রয়েছে গ্রোকের "স্পাইসি মোড" বৈশিষ্ট্য, যা xAI এআই থেকে আরও অবাধ এবং সম্ভাব্য বিতর্কিত প্রতিক্রিয়া জানানোর অনুমতি দেওয়ার জন্য তৈরি করেছে।

ডিপফেক বা সিনথেটিক মিডিয়া, কৃত্রিম বুদ্ধিমত্তা ব্যবহার করে, বিশেষভাবে ডিপ লার্নিং কৌশল, বাস্তবসম্মত কিন্তু জাল ছবি, অডিও এবং ভিডিও তৈরি করে। এই প্রযুক্তি উল্লেখযোগ্য নৈতিক উদ্বেগ সৃষ্টি করে, বিশেষ করে যখন সম্মতিবিহীন পর্নোগ্রাফি তৈরি করতে বা ভুল তথ্য ছড়াতে ব্যবহৃত হয়। যে আপেক্ষিক সহজে এই ছবিগুলি তৈরি এবং অনলাইনে প্রচার করা যায়, তা আইন প্রয়োগকারী সংস্থা এবং কন্টেন্ট নিরীক্ষণের প্রচেষ্টার জন্য একটি গুরুত্বপূর্ণ চ্যালেঞ্জ তৈরি করে।

xAI-এর তদন্ত এআই প্রযুক্তির সম্ভাব্য অপব্যবহার এবং ক্ষতি প্রতিরোধের জন্য এআই ডেভেলপারদের দায়িত্ব সম্পর্কে ক্রমবর্ধমান উদ্বেগকে তুলে ধরে। এআই মডেলগুলি যত বেশি অত্যাধুনিক এবং সহজলভ্য হচ্ছে, ততই খারাপ উদ্দেশ্যে ব্যবহারের জন্য দূষ্কৃতিকারীদের দ্বারা সেগুলি কাজে লাগানোর ঝুঁকি বাড়ছে। এই ঘটনাটি এআই সিস্টেমের বিকাশ এবং স্থাপনাকে নিয়ন্ত্রণ করার জন্য শক্তিশালী সুরক্ষা এবং নৈতিক নির্দেশিকাগুলির প্রয়োজনীয়তার উপর জোর দেয়।

ক্যালিফোর্নিয়ার অ্যাটর্নি জেনারেলের অফিস xAI-এর বিরুদ্ধে তাদের অভিযোগ সমর্থন করার জন্য তারা যে নির্দিষ্ট প্রমাণ সংগ্রহ করেছে, তার বিশদ বিবরণ এখনও প্রকাশ করেনি। xAI এখনও কারণ দর্শানোর নোটিশের প্রতিক্রিয়ায় কোনও আনুষ্ঠানিক বিবৃতি জারি করেনি। পরবর্তী পদক্ষেপ সম্ভবত xAI-কে নির্ধারিত পাঁচ দিনের মধ্যে অ্যাটর্নি জেনারেলের অফিসে একটি প্রতিক্রিয়া প্রদান করতে হবে, যেখানে উত্থাপিত উদ্বেগগুলি মোকাবিলার জন্য তারা যে পদক্ষেপ নিচ্ছে তার রূপরেখা থাকবে। অ্যাটর্নি জেনারেলের অফিস তখন xAI-এর প্রতিক্রিয়া মূল্যায়ন করবে এবং আরও পদক্ষেপের প্রয়োজন কিনা তা নির্ধারণ করবে।