أعلنت منصة X أن أداة الذكاء الاصطناعي Grok، المملوكة لإيلون ماسك، لن تكون قادرة بعد الآن على تعديل صور لأشخاص حقيقيين لتصويرهم بملابس فاضحة في الولايات القضائية التي تحظر فيها مثل هذه التعديلات. ويأتي هذا القرار في أعقاب مخاوف واسعة النطاق بشأن احتمال إنتاج صور جنسية مزيفة بتقنية التزييف العميق (deepfakes) بواسطة الذكاء الاصطناعي عبر المنصة.

وذكرت X، منصة التواصل الاجتماعي المملوكة لماسك، أنها "نفذت إجراءات تكنولوجية لمنع حساب Grok من السماح بتعديل صور لأشخاص حقيقيين بملابس فاضحة". وتأتي هذه الخطوة بعد انتقادات وتدقيق تنظيمي بشأن احتمال إساءة استخدام أداة الذكاء الاصطناعي.

وردت الحكومة البريطانية على هذا التغيير، واصفة إياه بأنه "تبرير" لدعواتها لـ X للسيطرة على Grok. ووصفت هيئة تنظيم الاتصالات (Ofcom) هذا التطور بأنه "مرحب به"، لكنها أكدت أن تحقيقها في ما إذا كانت المنصة قد انتهكت قوانين المملكة المتحدة "لا يزال مستمراً". وذكرت Ofcom: "نحن نعمل على مدار الساعة لإحراز تقدم في هذا الأمر والحصول على إجابات حول ما حدث من أخطاء وما الذي يتم فعله لإصلاحها".

كما رحبت وزيرة التكنولوجيا ليز كيندال بالتغيير، لكنها أشارت إلى أنها "تتوقع أن يتم إثبات الحقائق بشكل كامل وقوي من خلال تحقيق Ofcom المستمر".

تم إطلاق Grok على X في عام 2023، وهي أداة ذكاء اصطناعي مصممة لإنشاء أنواع مختلفة من المحتوى، بما في ذلك تحرير الصور. لم يتم الكشف عن الإجراءات التكنولوجية المحددة التي نفذتها X لمنع إنشاء صور مزيفة بتقنية التزييف العميق تتضمن ملابس فاضحة. ومع ذلك، غالباً ما تتضمن هذه الإجراءات مزيجاً من خوارزميات التعرف على الصور، وتصفية المحتوى، وآليات إبلاغ المستخدمين. يمكن تدريب خوارزميات التعرف على الصور لتحديد الصور التي تصور العري أو المحتوى الموحي والإبلاغ عنها. يمكن بعد ذلك استخدام عوامل تصفية المحتوى لحظر إنشاء هذه الصور أو مشاركتها. تسمح آليات إبلاغ المستخدمين للمستخدمين بالإبلاغ عن المحتوى الذي يحتمل أن يكون غير لائق ليراجعه فريق الإشراف في X.

يسلط الحادث الضوء على المخاوف المتزايدة المحيطة باحتمال استخدام الذكاء الاصطناعي لإنشاء صور مزيفة بتقنية التزييف العميق وأشكال أخرى من المحتوى الذي تم التلاعب به. وقد أدت هذه المخاوف إلى زيادة التدقيق التنظيمي لمنصات الذكاء الاصطناعي والمطالبات بزيادة الشفافية والمساءلة في تطوير ونشر تقنيات الذكاء الاصطناعي.

أعرب ناشطون وضحايا عن مخاوفهم من أن هذا التغيير قد جاء متأخراً جداً لإصلاح الضرر الذي تسببت فيه هذه التقنية بالفعل. كانت الصحفية والناشطة جيس ديفيز، التي لم يتم اقتباسها مباشرة في إعلان X، صريحة بشأن احتمال استخدام الصور المزيفة بتقنية التزييف العميق التي تعتمد على الذكاء الاصطناعي لمضايقة الأفراد وترهيبهم.