وفقًا لإعلان على منصة X، لن يتمكن برنامج Grok للذكاء الاصطناعي التابع لإيلون ماسك من تعديل صور لأشخاص حقيقيين لعرضهم بملابس فاضحة في الولايات القضائية التي تحظر فيها مثل هذه التعديلات. يأتي هذا القرار في أعقاب مخاوف واسعة النطاق بشأن احتمال إنتاج صور جنسية مزيفة بتقنية التزييف العميق (deepfakes) بواسطة الذكاء الاصطناعي عبر المنصة.

ذكرت منصة X، وهي منصة التواصل الاجتماعي المملوكة لإيلون ماسك، أنها نفذت إجراءات تكنولوجية لمنع حساب Grok من السماح بتعديل صور لأشخاص حقيقيين بملابس فاضحة. وكانت الشركة قد أطلقت Grok في عام 2023.

وردت الحكومة البريطانية على هذا التغيير، واصفة إياه بأنه "تبرير" لدعوتها لـ X للسيطرة على Grok. ووصفت Ofcom، وهي هيئة تنظيم الاتصالات في المملكة المتحدة، هذه الخطوة بأنها "تطور مرحب به" لكنها أكدت أن تحقيقها فيما إذا كانت المنصة قد انتهكت قوانين المملكة المتحدة "لا يزال مستمراً". وذكرت Ofcom أنها تعمل على إحراز تقدم في التحقيق وتحديد ما حدث من أخطاء وما الذي يتم فعله لإصلاحها.

رحبت وزيرة التكنولوجيا ليز كيندال بهذه الخطوة، لكنها قالت إنها "تتوقع أن يتم إثبات الحقائق بشكل كامل وقوي من خلال التحقيق المستمر الذي تجريه Ofcom".

يجادل الناشطون والضحايا بأن هذا التغيير جاء متأخرًا جدًا لإلغاء الضرر الذي تسببت فيه التكنولوجيا بالفعل. الصحفية والناشطة جيس ديفيز هي من بين أولئك الذين أعربوا عن مخاوفهم.

تعتمد التكنولوجيا الكامنة وراء Grok، مثل العديد من أدوات تحرير الصور بالذكاء الاصطناعي، على نماذج التعلم العميق المدربة على مجموعات بيانات ضخمة من الصور. يمكن التلاعب بهذه النماذج لتغيير الصور الموجودة بطرق مختلفة، بما في ذلك إضافة أو إزالة الملابس. تنشأ المخاوف عندما تُستخدم هذه القدرات لإنشاء صور جنسية صريحة غير توافقية، والتي يشار إليها غالبًا باسم التزييف العميق (deepfakes).

لا يزال التأثير الصناعي لهذا القرار غير واضح. قد تواجه منصات تحرير الصور الأخرى بالذكاء الاصطناعي تدقيقًا وضغطًا متزايدين لتنفيذ ضمانات مماثلة. يسلط الحادث الضوء على التحديات الأخلاقية المرتبطة بتكنولوجيا الذكاء الاصطناعي سريعة التطور والحاجة إلى اتخاذ تدابير استباقية لمنع إساءة استخدامها.