أصدر المدعي العام لولاية كاليفورنيا، روب بونتا، يوم الجمعة، خطاب وقف وكف إلى شركة xAI، مطالباً الشركة بالتوقف الفوري عن إنشاء وتوزيع الصور الحميمة العميقة المزيفة وغير الرضائية، ومواد الاعتداء الجنسي على الأطفال (CSAM). تأتي هذه الخطوة في أعقاب إعلان سابق من مكتب المدعي العام بأنه يحقق مع شركة xAI، وهي شركة ناشئة في مجال الذكاء الاصطناعي يملكها إيلون ماسك، بشأن تقارير تفيد بأن برنامج الدردشة الآلي الخاص بها، Grok، كان يُستخدم لإنشاء صور جنسية غير رضائية لنساء وقاصرات.

صرح بونتا في بيان صحفي: "اليوم، أرسلت إلى xAI خطاب وقف وكف، مطالباً الشركة بالتوقف الفوري عن إنشاء وتوزيع الصور الحميمة العميقة المزيفة وغير الرضائية، ومواد الاعتداء الجنسي على الأطفال. إن إنشاء هذه المواد غير قانوني. أتوقع تمامًا أن تمتثل xAI على الفور. ولاية كاليفورنيا لا تتسامح مطلقًا مع مواد الاعتداء الجنسي على الأطفال".

وزعم مكتب المدعي العام كذلك أن xAI تبدو وكأنها تسهل الإنتاج واسع النطاق للصور العارية غير الرضائية، والتي يُزعم أنها تُستخدم لمضايقة النساء والفتيات عبر الإنترنت. وتتوقع الوكالة أن تُظهر xAI في غضون خمسة أيام الخطوات التي تتخذها لمعالجة هذه القضايا.

في قلب الجدل ميزة "الوضع الحار" في Grok، والتي أنشأتها xAI للسماح بردود أكثر تحررًا وربما مثيرة للجدل من الذكاء الاصطناعي. هذه الميزة، بينما تهدف إلى دفع حدود التفاعل مع الذكاء الاصطناعي، فتحت على ما يبدو الباب أمام إنشاء محتوى ضار وغير قانوني.

تستخدم تقنية التزييف العميق، وهي نوع من الوسائط الاصطناعية، الذكاء الاصطناعي، وتحديداً تقنيات التعلم العميق، لإنشاء صور ومقاطع صوت وفيديو واقعية ولكنها ملفقة. تثير هذه التقنية مخاوف أخلاقية كبيرة، خاصة عند استخدامها لإنشاء مواد إباحية غير رضائية أو نشر معلومات مضللة. إن السهولة النسبية التي يمكن بها إنشاء التزييفات العميقة ونشرها عبر الإنترنت قد ضاعفت من احتمالية الضرر، مما يجعل من الصعب بشكل متزايد التمييز بين المحتوى الأصيل والمحتوى الذي تم التلاعب به.

يطلب مكتب المدعي العام في كاليفورنيا من xAI تقديم دليل على جهودها للتخفيف من إساءة استخدام تقنيتها. يسلط التحقيق الضوء على التدقيق التنظيمي المتزايد المحيط بتطوير ونشر الذكاء الاصطناعي، لا سيما فيما يتعلق باحتمال إساءة الاستخدام والحاجة إلى ضمانات قوية لحماية الأفراد من الأذى. تسلط القضية الضوء أيضًا على التحديات التي تواجهها شركات الذكاء الاصطناعي في الموازنة بين الابتكار والاعتبارات الأخلاقية والامتثال القانوني. من المرجح أن تتضمن الخطوات التالية رد xAI على خطاب الوقف والكف وتقييم المدعي العام للحلول المقترحة من الشركة.