حثت الحكومة "أوفكوم"، وهي الهيئة التنظيمية للاتصالات في المملكة المتحدة، على النظر في استخدام كامل صلاحياتها، بما في ذلك احتمال فرض حظر، على منصة التواصل الاجتماعي "X" بسبب مخاوف بشأن صور غير قانونية مولدة بالذكاء الاصطناعي يتم تداولها على الموقع. يأتي هذا الإجراء نتيجة لتزايد القلق بشأن نموذج الذكاء الاصطناعي الخاص بـ "X"، "جروك"، الذي يُستخدم لإنشاء التزييفات العميقة (deepfakes)، وتحديدًا تلك التي تقوم بتعرية الأفراد رقميًا في الصور.

تسمح سلطة "أوفكوم" بموجب قانون السلامة على الإنترنت لها بالسعي للحصول على أوامر قضائية يمكن أن تمنع أطرافًا ثالثة من مساعدة "X"، المملوكة لإيلون ماسك، في جمع رأس المال أو من تمكين الوصول إلى المنصة داخل المملكة المتحدة. ينبع قلق الحكومة المتزايد من الاحتمال المحتمل لإنشاء صور جنسية للأطفال باستخدام "جروك".

أدان رئيس الوزراء السير كير ستارمر إنشاء مثل هذه الصور، قائلاً: "هذا أمر مخز. إنه مقزز. ولا يمكن التسامح معه. تحظى "أوفكوم" بدعمنا الكامل لاتخاذ إجراءات فيما يتعلق بهذا الأمر." وأكد كذلك موقف الحكومة، مضيفًا: "إنه غير قانوني. لن نتسامح معه. لقد طلبت أن تكون جميع الخيارات مطروحة على الطاولة"، في مقابلة مع إذاعة Greatest Hits Radio. وأكدت مصادر حكومية لـ BBC News أنها "تتوقع أن تستخدم "أوفكوم" جميع الصلاحيات المتاحة لها فيما يتعلق بـ "جروك X".

التزييفات العميقة (Deepfakes)، وهي كلمة مركبة من "التعلم العميق" و "التزييف"، هي وسائط اصطناعية يتم فيها استبدال شخص في صورة أو مقطع فيديو موجود بشخص آخر باستخدام الذكاء الاصطناعي. في حين أن التزييفات العميقة لها تطبيقات مختلفة، بما في ذلك الترفيه والتعبير الفني، فإن إمكانية إساءة استخدامها، مثل إنشاء صور حميمة غير توافقية أو نشر معلومات مضللة، تثير مخاوف أخلاقية وقانونية كبيرة. لقد جعل تطور نماذج الذكاء الاصطناعي مثل "جروك" من الصعب بشكل متزايد التمييز بين المحتوى الحقيقي والمحتوى الذي تم التلاعب به، مما يزيد من تعقيد المشكلة.

يمنح قانون السلامة على الإنترنت "أوفكوم" صلاحيات كبيرة لتنظيم المحتوى عبر الإنترنت وحماية المستخدمين من الأذى. وتشمل هذه الصلاحيات القدرة على إصدار غرامات، والمطالبة بإزالة المحتوى غير القانوني، وفي الحالات القصوى، حظر الوصول إلى مواقع الويب. إن حث الحكومة لـ "أوفكوم" على النظر في فرض حظر على "X" يسلط الضوء على مدى جدية نظرتها إلى الأضرار المحتملة المرتبطة بالتزييفات العميقة المولدة بالذكاء الاصطناعي.

لا يزال الوضع متقلبًا، ومن غير الواضح ما هي الإجراءات المحددة التي ستتخذها "أوفكوم". ومن المتوقع أن تدرس الهيئة التنظيمية الأدلة والإطار القانوني بعناية قبل اتخاذ قرار. يمكن أن يكون لنتائج هذه القضية آثار كبيرة على تنظيم المحتوى المولّد بالذكاء الاصطناعي ومسؤوليات منصات التواصل الاجتماعي في معالجة إساءة استخدام تقنيات الذكاء الاصطناعي.