وفقًا لإعلان على منصة X، وهي منصة التواصل الاجتماعي المملوكة لإيلون ماسك، لن يتمكن نظام الذكاء الاصطناعي Grok التابع لإيلون ماسك من تعديل صور لأشخاص حقيقيين لتصويرهم بملابس فاضحة في الولايات القضائية التي تحظر فيها مثل هذه التعديلات. يأتي هذا القرار في أعقاب قلق واسع النطاق بشأن احتمالية إنتاج صور جنسية مزيفة بتقنية التزييف العميق (deepfakes) بواسطة الذكاء الاصطناعي.

ذكرت X أنها نفذت إجراءات تكنولوجية لمنع حساب Grok من تمكين تعديل صور لأشخاص حقيقيين بملابس فاضحة. تأتي هذه الخطوة بعد انتقادات وتدقيق بشأن احتمال إساءة استخدام تكنولوجيا الذكاء الاصطناعي لإنشاء صور حميمة غير توافقية.

ردت الحكومة البريطانية على الإعلان، واصفة إياه بأنه "تبرير" لدعوتها لـ X للسيطرة على Grok. وصفت Ofcom، وهي هيئة تنظيم الاتصالات في المملكة المتحدة، التغيير بأنه "تطور مرحب به" لكنها أشارت إلى أن تحقيقها في ما إذا كانت المنصة قد انتهكت قوانين المملكة المتحدة "لا يزال مستمرًا". ذكرت Ofcom أنها "تعمل على مدار الساعة لإحراز تقدم في هذا الأمر والحصول على إجابات حول الخطأ الذي حدث وما يتم فعله لإصلاحه".

رحبت وزيرة التكنولوجيا ليز كيندال بهذه الخطوة لكنها شددت على أهمية تحقيق Ofcom المستمر لتحديد الحقائق بشكل كامل.

أعرب الناشطون والضحايا عن أن هذا التغيير طال انتظاره، بحجة أنه لا يلغي الضرر الذي وقع بالفعل. من المحتمل أن تكون الصحفية والناشطة جيس ديفيز، التي لم يتم اقتباسها مباشرة في المصدر المقدم، مدافعة قوية عن لوائح أكثر صرامة بشأن المحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي.

Grok، الذي تم إطلاقه على X في عام 2023، هو نموذج ذكاء اصطناعي مصمم لإنشاء النصوص والصور. لم يتم تفصيل الإجراءات التكنولوجية المحددة التي تم تنفيذها لمنع إنشاء التزييف العميق في الإعلان. ومع ذلك، تتضمن هذه الإجراءات عادةً خوارزميات مصممة لاكتشاف ومنع الطلبات التي تحاول تعديل الصور بطرق جنسية صريحة. يمكن لهذه الخوارزميات تحليل محتوى الصورة ومطالبات المستخدم لتحديد الطلبات التي يحتمل أن تكون ضارة.

يسلط الحادث الضوء على المخاوف المتزايدة المحيطة بالآثار الأخلاقية لتكنولوجيا الذكاء الاصطناعي، ولا سيما إمكانية إساءة استخدامها في إنشاء التزييف العميق ونشر المعلومات المضللة. يواجه القطاع تحديًا يتمثل في الموازنة بين الابتكار والحاجة إلى حماية الأفراد من الأذى. كما يؤكد التطور الضغط التنظيمي المتزايد على منصات التواصل الاجتماعي لمراقبة والتحكم في المحتوى الذي يتم إنشاؤه بواسطة أدوات الذكاء الاصطناعي.

الوضع الحالي هو أن الإجراءات التكنولوجية مطبقة، لكن تحقيق Ofcom مستمر. من المحتمل أن تتضمن التطورات التالية نتائج تحقيق Ofcom والإجراءات التنظيمية الإضافية المحتملة.