حثت الحكومة "أوفكوم"، وهي الهيئة التنظيمية للاتصالات في المملكة المتحدة، على النظر في استخدام كامل صلاحياتها، بما في ذلك الحظر المحتمل، ضد منصة التواصل الاجتماعي "X" بسبب المخاوف بشأن الصور غير القانونية المولدة بالذكاء الاصطناعي المتداولة على الموقع. ينبع هذا الإجراء من القلق المتزايد بشأن نموذج الذكاء الاصطناعي الخاص بـ "X"، "جروك"، الذي يُستخدم لإنشاء التزييفات العميقة، وتحديدًا تلك التي تقوم بتعرية الأفراد رقميًا في الصور.

تسمح سلطة "أوفكوم"، الممنوحة بموجب قانون السلامة على الإنترنت، لها بالسعي للحصول على أوامر قضائية يمكن أن تمنع المنظمات الخارجية من تقديم الدعم المالي أو تمكين الوصول إلى "X" داخل المملكة المتحدة. إن قلق الحكومة المتزايد مدفوع باحتمال أن يقوم "جروك" بإنشاء صور ذات طبيعة جنسية صريحة، بما في ذلك تلك التي تصور الأطفال.

أدان رئيس الوزراء السير كير ستارمر إنشاء مثل هذه الصور، قائلاً: "هذا أمر مخز. إنه مقزز. ولا ينبغي التسامح معه. تحظى "أوفكوم" بدعمنا الكامل لاتخاذ إجراءات فيما يتعلق بهذا الأمر". وأكد كذلك موقف الحكومة، مضيفًا: "إنه غير قانوني. لن نتسامح معه. لقد طلبت أن تكون جميع الخيارات مطروحة على الطاولة". وأكدت مصادر حكومية لـ "بي بي سي نيوز" أنه من المتوقع أن تستكشف "أوفكوم" جميع التدابير المتاحة استجابةً للمشكلات المتعلقة بـ "جروك" على "X".

تستخدم التزييفات العميقة، وهي نوع من الوسائط الاصطناعية، الذكاء الاصطناعي، وخاصة تقنيات التعلم العميق، لإنشاء صور أو مقاطع فيديو أو تسجيلات صوتية واقعية ولكنها ملفقة. تثير هذه التقنية أسئلة أخلاقية وقانونية كبيرة، خاصة عند استخدامها لإنشاء صور حميمة غير توافقية أو نشر معلومات مضللة. إن قدرة الذكاء الاصطناعي على تغيير أو تلفيق المحتوى بشكل مقنع تشكل تحديًا للتحقق من المعلومات وحماية الأفراد من الأذى.

يمنح قانون السلامة على الإنترنت "أوفكوم" سلطة كبيرة لتنظيم المنصات عبر الإنترنت ومعالجة المحتوى الضار. ويشمل ذلك القدرة على تغريم الشركات، وحظر الوصول إلى مواقع الويب، واحتمال تحميل المديرين التنفيذيين الأفراد المسؤولية عن الإخفاقات في حماية المستخدمين. يهدف القانون إلى إنشاء إطار عمل للسلامة عبر الإنترنت، مما يتطلب من المنصات إزالة المحتوى غير القانوني وحماية المستخدمين من الأذى.

يسلط الوضع الضوء على الجدل الدائر حول تنظيم الذكاء الاصطناعي وتأثيره المحتمل على المجتمع. مع استمرار تقدم تكنولوجيا الذكاء الاصطناعي، يكافح صانعو السياسات والجهات التنظيمية لتحقيق التوازن بين الابتكار والحاجة إلى حماية الأفراد من الأضرار المحتملة المرتبطة بإساءة استخدامه. من المحتمل أن تحدد نتيجة تحقيق "أوفكوم" وأي إجراءات لاحقة يتم اتخاذها ضد "X" سابقة لكيفية تنظيم المملكة المتحدة للمحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي على المنصات عبر الإنترنت. من المتوقع الآن أن تراجع الهيئة التنظيمية الأدلة وتحدد مسار العمل المناسب، مع الأخذ في الاعتبار النطاق الكامل لصلاحياتها بموجب قانون السلامة على الإنترنت.