أصدر المدعي العام لولاية كاليفورنيا، روب بونتا، يوم الجمعة، خطاب وقف وكف إلى شركة xAI، مطالباً الشركة بالتوقف الفوري عن إنشاء وتوزيع الصور الجنسية الحميمة المزيفة العميقة (deepfake) وغير التوافقية ومواد الاعتداء الجنسي على الأطفال (CSAM). تأتي هذه الخطوة في أعقاب إعلان سابق هذا الأسبوع عن أن مكتب المدعي العام في كاليفورنيا كان يحقق مع شركة xAI، وهي شركة ناشئة في مجال الذكاء الاصطناعي يملكها إيلون ماسك، بشأن تقارير تفيد بأن برنامج الدردشة الآلي الخاص بها، Grok، كان يُستخدم لإنشاء صور جنسية غير توافقية لنساء وقاصرين.

صرح بونتا في بيان صحفي: "اليوم، أرسلت إلى xAI خطاب وقف وكف، مطالباً الشركة بالتوقف الفوري عن إنشاء وتوزيع الصور الجنسية الحميمة المزيفة العميقة وغير التوافقية ومواد الاعتداء الجنسي على الأطفال. إن إنشاء هذه المواد غير قانوني. أتوقع تمامًا أن تمتثل xAI على الفور. ولاية كاليفورنيا لا تتسامح مطلقًا مع مواد الاعتداء الجنسي على الأطفال."

كما ادعى مكتب المدعي العام أن xAI يبدو أنها تسهل الإنتاج واسع النطاق لصور عارية غير توافقية، والتي يُزعم أنها تُستخدم لمضايقة النساء والفتيات عبر الإنترنت. منحت الوكالة xAI خمسة أيام لإثبات الخطوات التي تتخذها لمعالجة هذه المشكلات.

في قلب الجدل ميزة "الوضع الحار" (spicy mode) في Grok. هذه الميزة، المصممة للسماح بردود أكثر تحررًا وربما مثيرة للجدل من الذكاء الاصطناعي، فتحت على ما يبدو الباب للمستخدمين لإنشاء محتوى جنسي صريح. تشير التزييفات العميقة (Deepfakes)، في هذا السياق، إلى الصور أو مقاطع الفيديو التي يتم إنشاؤها بواسطة الذكاء الاصطناعي والتي تصور بشكل مقنع الأفراد وهم يفعلون أو يقولون أشياء لم يفعلوها أو يقولوها أبدًا. تثير هذه التقنية مخاوف أخلاقية وقانونية كبيرة، لا سيما عند استخدامها لإنشاء مواد إباحية غير توافقية أو لاستغلال الأطفال.

أصبح استخدام الذكاء الاصطناعي لإنشاء التزييفات العميقة متطورًا بشكل متزايد، مما يجعل من الصعب التمييز بين المحتوى الحقيقي والمحتوى المصطنع. وهذا يمثل تحديًا كبيرًا لجهود إنفاذ القانون والإشراف على المحتوى. لقد حذر خبراء في أخلاقيات الذكاء الاصطناعي منذ فترة طويلة من احتمال إساءة استخدام هذه التقنيات، لا سيما في إنشاء محتوى ضار وغير قانوني.

لم تصدر xAI بعد بيانًا عامًا ردًا على خطاب الوقف والكف. تواجه الشركة الآن تحديًا يتمثل في إثبات لمكتب المدعي العام في كاليفورنيا أنها تتخذ تدابير كافية لمنع إساءة استخدام تقنيتها وحماية الأفراد من إنشاء وتوزيع الصور الجنسية الحميمة غير التوافقية. قد يكون لنتائج هذا التحقيق آثار كبيرة على تنظيم وتطوير تقنيات الذكاء الاصطناعي، لا سيما تلك التي لديها القدرة على إنشاء محتوى واقعي وربما ضار.