ক্যালিফোর্নিয়ার অ্যাটর্নি জেনারেল রব বন্টা এলন মাস্কের এআই মডেল, গ্রোকের বিরুদ্ধে যৌনতাপূর্ণ এআই ডিপফেক তৈরির এবং ছড়ানোর উদ্বেগের কারণে একটি তদন্ত শুরু করেছেন। বুধবার ঘোষিত এই তদন্তে গ্রোক প্রস্তুতকারক সংস্থা xAI কর্তৃক কথিতভাবে উৎপাদিত এবং অনলাইনে পোস্ট করা সামগ্রীর উপর দৃষ্টি নিবদ্ধ করা হয়েছে।

বন্টা বলেছেন, "xAI সম্প্রতি সপ্তাহগুলোতে সম্মতিবিহীন যৌনতাপূর্ণ বিষয়বস্তু তৈরি এবং অনলাইনে পোস্ট করার বিষয়ে আসা একের পর এক প্রতিবেদনগুলো বেশ উদ্বেগজনক।" এই তদন্তটি এআই সুরক্ষা এবং প্রযুক্তির অপব্যবহার রোধে ডেভেলপারদের দায়িত্ব সম্পর্কে গুরুত্বপূর্ণ প্রশ্ন তুলেছে।

এই অনুসন্ধানটি এআই-কে খারাপ উদ্দেশ্যে ব্যবহারের সম্ভাবনাকে তুলে ধরে, যা ক্রমবর্ধমান অত্যাধুনিক এআই প্রযুক্তির সাথে সম্পর্কিত ঝুঁকিগুলি হ্রাস করতে প্রবিধান এবং নৈতিক নির্দেশিকা নিয়ে আলোচনার জন্ম দিয়েছে। এই ঘটনাটি এমন সময়ে ঘটল যখন ব্রিটিশ প্রধানমন্ত্রী স্যার কিয়ার স্টারমার মাস্কের মালিকানাধীন X (পূর্বে টুইটার নামে পরিচিত)-এর বিরুদ্ধে সম্ভাব্য পদক্ষেপের বিষয়ে সতর্ক করেছেন।

xAI এর আগে জানিয়েছিল যে "যে কেউ গ্রোক ব্যবহার করে বা গ্রোককে অবৈধ সামগ্রী তৈরি করতে উৎসাহিত করলে তাদের বিরুদ্ধে এমন ব্যবস্থা নেওয়া হবে যেন তারা নিজেরাই অবৈধ সামগ্রী আপলোড করেছে।" ক্যালিফোর্নিয়ার অ্যাটর্নি জেনারেলের তদন্ত চলছে।