أصدر المدعي العام لولاية كاليفورنيا، روب بونتا، يوم الجمعة، خطاب وقف وكف إلى شركة xAI، مطالباً الشركة بالتوقف الفوري عن إنشاء وتوزيع الصور الحميمة المزيفة العميقة (deepfake) وغير الرضائية، ومواد الاعتداء الجنسي على الأطفال (CSAM). تأتي هذه الخطوة في أعقاب إعلان سابق من مكتب المدعي العام بأنه يحقق مع شركة xAI، وهي شركة ناشئة في مجال الذكاء الاصطناعي يملكها إيلون ماسك، بشأن تقارير تفيد بأن برنامج الدردشة الآلي الخاص بها، Grok، كان يستخدم لإنشاء صور جنسية غير رضائية لنساء وقاصرين.

صرح بونتا في بيان صحفي: "اليوم، أرسلت إلى xAI خطاب وقف وكف، مطالباً الشركة بالتوقف الفوري عن إنشاء وتوزيع الصور الحميمة المزيفة العميقة وغير الرضائية، ومواد الاعتداء الجنسي على الأطفال. إن إنشاء هذه المواد غير قانوني. أتوقع تماماً أن تمتثل xAI على الفور. كاليفورنيا لا تتسامح مطلقاً مع مواد الاعتداء الجنسي على الأطفال".

كما ادعى مكتب المدعي العام أن xAI يبدو أنها تسهل الإنتاج واسع النطاق للصور العارية غير الرضائية، والتي يُزعم أنها تستخدم لمضايقة النساء والفتيات عبر الإنترنت. وتتوقع الوكالة أن تثبت xAI في غضون خمسة أيام الخطوات التي تتخذها لمعالجة هذه القضايا.

في قلب الجدل ميزة "الوضع الحار" في Grok، والتي أنشأتها xAI للسماح بردود أكثر انفتاحاً وربما استفزازية من برنامج الدردشة الآلي الذي يعمل بالذكاء الاصطناعي. هذه الميزة، على الرغم من أنها تهدف إلى توفير تجربة مستخدم أكثر جاذبية، إلا أنها فتحت الباب على ما يبدو لإنشاء محتوى ضار وغير قانوني.

أصبحت الصور المزيفة العميقة (Deepfakes)، وهي وسائط اصطناعية تم إنشاؤها بواسطة الذكاء الاصطناعي، متطورة بشكل متزايد، مما يثير مخاوف بشأن إمكانية إساءة استخدامها. تسمح هذه التقنية بإنشاء صور ومقاطع فيديو واقعية المظهر ولكنها ملفقة بالكامل، مما يجعل من الصعب التمييز بين ما هو حقيقي وما هو غير ذلك. وهذا يطرح تحديات كبيرة أمام جهود إنفاذ القانون والإشراف على المحتوى.

الآثار القانونية لإنشاء وتوزيع المواد الإباحية المزيفة العميقة، وخاصة تلك التي تتضمن قاصرين، وخيمة. يمكن أن تشكل هذه الإجراءات انتهاكات لقوانين المواد الإباحية المتعلقة بالأطفال، فضلاً عن قوانين مكافحة التحرش الجنسي والتشهير. كما أن استخدام الذكاء الاصطناعي لإنشاء صور حميمة غير رضائية يثير أيضاً أسئلة أخلاقية حول مسؤولية مطوري الذكاء الاصطناعي لمنع إساءة استخدام تقنيتهم.

لم تصدر xAI بعد بياناً عاماً رداً على خطاب الوقف والكف. تواجه الشركة الآن تحدياً يتمثل في إثبات التزامها بمنع إنشاء وتوزيع المحتوى الضار الذي تم إنشاؤه بواسطة نموذج الذكاء الاصطناعي الخاص بها. ينتظر مكتب المدعي العام في كاليفورنيا رد xAI ودليل على الإجراءات التصحيحية في غضون الأيام الخمسة القادمة. تسلط هذه القضية الضوء على الحاجة المتزايدة إلى ضمانات ولوائح قوية لمعالجة الأضرار المحتملة المرتبطة بتقنيات الذكاء الاصطناعي المتقدمة.