لن يتمكن برنامج Grok، وهو أداة الذكاء الاصطناعي التي يملكها إيلون ماسك، من تعديل صور أشخاص حقيقيين لعرضهم بملابس فاضحة في المناطق القضائية التي تحظر فيها مثل هذه التعديلات. يأتي هذا الإعلان، الذي تم نشره على منصة X، وهي منصة التواصل الاجتماعي التي يملكها ماسك، في أعقاب قلق واسع النطاق بشأن احتمالية استخدام تقنية التزييف العميق الجنسية المدعومة بالذكاء الاصطناعي.

ذكرت X أنها "نفذت إجراءات تكنولوجية لمنع حساب Grok من السماح بتعديل صور لأشخاص حقيقيين بملابس فاضحة". تأتي هذه الخطوة بعد انتقادات وتدقيق تنظيمي بشأن احتمال إساءة استخدام أداة الذكاء الاصطناعي.

ردت الحكومة البريطانية على هذا التغيير، واصفة إياه بأنه "تبرير" لدعوتها لـ X للسيطرة على Grok. وصفت Ofcom، وهي هيئة تنظيم الاتصالات في المملكة المتحدة، هذا التطور بأنه "مرحب به" لكنها أكدت أن تحقيقها في ما إذا كانت X قد انتهكت قوانين المملكة المتحدة "لا يزال مستمراً". صرحت Ofcom: "نحن نعمل على مدار الساعة للمضي قدماً في هذا الأمر والحصول على إجابات حول الخطأ الذي حدث وما الذي يتم فعله لإصلاحه".

كما أقرت وزيرة التكنولوجيا ليز كيندال بالتغيير لكنها ذكرت أنها "تتوقع أن يتم إثبات الحقائق بشكل كامل وقوي من خلال تحقيق Ofcom المستمر".

تم إطلاق Grok في عام 2023، وهو أداة ذكاء اصطناعي مدمجة في منصة X. تشمل قدراته تعديل الصور، مما يثير مخاوف بشأن احتمال إساءة استخدامه، لا سيما في إنشاء عمليات تزييف عميق غير توافقية. تهدف الإجراءات التكنولوجية المنفذة إلى منع الذكاء الاصطناعي من إنشاء صور تصور أفراداً حقيقيين في سياقات جنسية صريحة أو فاضحة دون موافقتهم.

جادل النشطاء والضحايا بأن التغيير طال انتظاره ولا يلغي الضرر الذي حدث بالفعل. كانت جيس ديفيز، وهي صحفية وناشطة، صريحة بشأن الحاجة إلى ضمانات أقوى ضد الإساءة الناتجة عن الذكاء الاصطناعي.

لم يتم تفصيل الإجراءات التقنية المحددة التي نفذتها X لمنع Grok من إنشاء مثل هذه الصور في الإعلان. ومع ذلك، تتضمن هذه الإجراءات عادةً مجموعة من تصفية المحتوى وخوارزميات التعرف على الصور والقيود المفروضة على أنواع المطالبات التي يمكن للذكاء الاصطناعي معالجتها. تم تصميم هذه المرشحات لاكتشاف وحظر الطلبات التي يمكن أن تؤدي إلى إنشاء محتوى غير لائق أو ضار.

يسلط الحادث الضوء على التحديات المتزايدة والاعتبارات الأخلاقية المحيطة بالأدوات التي تعمل بالذكاء الاصطناعي، لا سيما في مجال معالجة الصور وتقنية التزييف العميق. مع تقدم تكنولوجيا الذكاء الاصطناعي، يواجه المطورون والمنصات ضغوطاً متزايدة لتنفيذ ضمانات تمنع سوء الاستخدام وتحمي الأفراد من الأذى. يؤكد التحقيق الجاري الذي تجريه Ofcom على احتمال التدخل التنظيمي والحاجة إلى امتثال المنصات للقوانين واللوائح المحلية المتعلقة بالمحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي.