أصدر المدعي العام لولاية كاليفورنيا، روب بونتا، يوم الجمعة، خطاب وقف وكف إلى شركة xAI، مطالباً الشركة بالتوقف الفوري عن إنشاء وتوزيع الصور الحميمة المزيفة العميقة (deepfake) وغير التوافقية ومواد الاعتداء الجنسي على الأطفال (CSAM). تأتي هذه الخطوة في أعقاب إعلان سابق هذا الأسبوع عن أن مكتب المدعي العام في كاليفورنيا كان يحقق مع xAI، شركة الذكاء الاصطناعي التابعة لإيلون ماسك، بشأن تقارير تفيد بأن برنامج الدردشة الآلي الخاص بها، Grok، كان يستخدم لإنشاء صور جنسية غير توافقية لنساء وقاصرين.

صرح بونتا في بيان صحفي: "اليوم، أرسلت إلى xAI خطاب وقف وكف، مطالباً الشركة بالتوقف الفوري عن إنشاء وتوزيع الصور الحميمة المزيفة العميقة وغير التوافقية ومواد الاعتداء الجنسي على الأطفال. إن إنشاء هذه المواد غير قانوني. أتوقع تمامًا أن تمتثل xAI على الفور. كاليفورنيا لا تتسامح مطلقًا مع مواد الاعتداء الجنسي على الأطفال."

كما ادعى مكتب المدعي العام أن xAI يبدو أنها تسهل الإنتاج واسع النطاق للصور العارية غير التوافقية، والتي يُزعم أنها تستخدم لمضايقة النساء والفتيات عبر الإنترنت. تتوقع الوكالة أن تثبت xAI في غضون خمسة أيام الخطوات التي تتخذها لمعالجة هذه المشكلات.

في قلب الجدل ميزة "الوضع الحار" في Grok، والتي أنشأتها xAI للسماح بردود أكثر انفتاحًا وربما استفزازية من الذكاء الاصطناعي. هذه الميزة، على الرغم من أنها تهدف إلى توفير تجربة مستخدم أكثر جاذبية، إلا أنها فتحت الباب على ما يبدو لإنشاء محتوى ضار وغير قانوني.

أصبحت التزييفات العميقة (Deepfakes)، وهي وسائط اصطناعية تم إنشاؤها بواسطة الذكاء الاصطناعي ويمكن أن تصور بشكل مقنع الأفراد وهم يفعلون أو يقولون أشياء لم يفعلوها أبدًا، مصدر قلق متزايد. تثير هذه التقنية أسئلة أخلاقية وقانونية مهمة، خاصة عند استخدامها لإنشاء مواد إباحية غير توافقية أو لنشر معلومات مضللة. إن السهولة النسبية التي يمكن بها إنشاء هذه الصور ونشرها عبر الإنترنت تزيد من احتمالية حدوث ضرر.

يسلط التحقيق وأمر الوقف والكف اللاحق الضوء على تحديات تنظيم تقنيات الذكاء الاصطناعي سريعة التطور. في حين أن الذكاء الاصطناعي يقدم فوائد عديدة، إلا أنه يمثل أيضًا مخاطر تتطلب دراسة متأنية وتدابير استباقية للتخفيف من حدتها. تؤكد القضية على حاجة مطوري الذكاء الاصطناعي إلى إعطاء الأولوية للسلامة والاعتبارات الأخلاقية في عمليات التصميم والنشر الخاصة بهم.

لم ترد xAI علنًا حتى الآن على أمر الوقف والكف. تواجه الشركة الآن مهمة إثبات لمكتب المدعي العام في كاليفورنيا أنها تتخذ خطوات ملموسة لمنع إساءة استخدام تقنيتها وحماية الأفراد من إنشاء وتوزيع صور التزييف العميق غير التوافقية. يمكن أن تحدد نتيجة هذه القضية سابقة لكيفية محاسبة شركات الذكاء الاصطناعي على سوء الاستخدام المحتمل لتقنياتها.