أعرب مقر رئاسة الوزراء في 10 داونينج ستريت عن استحسانه للتقارير التي تشير إلى أن منصة X، المعروفة سابقًا باسم تويتر، تتخذ خطوات لمعالجة مشكلة التزييف العميق (deepfakes) التي يتم إنشاؤها باستخدام Grok، وهو نموذج الذكاء الاصطناعي الخاص بها. تأتي هذه الخطوة وسط مخاوف متزايدة بشأن احتمال إساءة استخدام المحتوى الناتج عن الذكاء الاصطناعي لنشر المعلومات المضللة والتلاعب بالرأي العام.

صرح متحدث باسم رئيس الوزراء بأن الحكومة ترحب بأي جهود تبذلها شركات التكنولوجيا للتخفيف من المخاطر المرتبطة بالذكاء الاصطناعي، لا سيما في سياق التزييف العميق. وقال المتحدث: "لقد كنا واضحين بشأن الحاجة إلى تطوير ونشر الذكاء الاصطناعي بشكل مسؤول. ومن المشجع رؤية منصات مثل X تتخذ خطوات استباقية لمعالجة احتمالية إساءة الاستخدام."

يتم إنشاء التزييف العميق، وهي وسائط اصطناعية يتم فيها استبدال شخص في صورة أو مقطع فيديو موجود بشخص آخر، باستخدام تقنيات الذكاء الاصطناعي المتطورة، وغالبًا ما تتضمن شبكات الخصومة التوليدية (GANs). تتكون شبكات الخصومة التوليدية من شبكتين عصبيتين، مولد ومميز، تعملان جنبًا إلى جنب. يقوم المولد بإنشاء محتوى اصطناعي، بينما يحاول المميز التمييز بين المحتوى الحقيقي والمحتوى المزيف. من خلال هذه العملية التكرارية، يتعلم المولد إنتاج تزييف عميق واقعي بشكل متزايد.

يمكن استخدام Grok الخاص بمنصة X، وهو نموذج ذكاء اصطناعي مصمم لمعالجة اللغة الطبيعية وتوليدها، لإنشاء تزييف عميق واقعي قائم على النصوص أو لإنشاء نصوص لمقاطع فيديو التزييف العميق. لم يتم الكشف عن التدابير المحددة التي يُزعم أن X تتخذها لمعالجة التزييف العميق المتعلق بـ Grok بشكل كامل، لكن المحللين في الصناعة يتكهنون بأنها قد تشمل تنفيذ سياسات الإشراف على المحتوى، وتطوير أدوات الكشف، ووضع علامات مائية على المحتوى الناتج عن الذكاء الاصطناعي.

يشكل صعود التزييف العميق تحديًا كبيرًا للنظام البيئي للمعلومات. يحذر الخبراء من أن هذه الوسائط التي تم التلاعب بها يمكن استخدامها للإضرار بالسمعة وزرع الفتنة وحتى التأثير على الانتخابات. إن سهولة الوصول المتزايدة إلى التكنولوجيا وتطورها يجعلان من الصعب التمييز بين المحتوى الحقيقي والمحتوى الملفق، مما يؤدي إلى تآكل الثقة في وسائل الإعلام والمؤسسات.

تواجه منصات التواصل الاجتماعي وشركات التكنولوجيا الأخرى أيضًا مشكلة التزييف العميق. يستثمر الكثيرون في أدوات الكشف المدعومة بالذكاء الاصطناعي والتي يمكنها تحديد الوسائط التي تم التلاعب بها بناءً على تناقضات أو عيوب دقيقة. يستكشف البعض أيضًا استخدام تقنية البلوك تشين للتحقق من أصالة المحتوى.

تدرس حكومة المملكة المتحدة بنشاط الأطر التنظيمية للذكاء الاصطناعي، بما في ذلك تدابير لمعالجة المخاطر المرتبطة بالتزييف العميق. يتضمن قانون السلامة على الإنترنت، الذي دخل حيز التنفيذ مؤخرًا، أحكامًا لمعالجة المحتوى الضار عبر الإنترنت، بما في ذلك الوسائط التي تم التلاعب بها.

لا يزال الوضع الحالي لجهود X لمعالجة التزييف العميق المتعلق بـ Grok غير واضح. ومن المتوقع أن تصدر الشركة مزيدًا من التفاصيل في الأسابيع المقبلة. كرر المتحدث باسم الحكومة أهمية التعاون المستمر بين الحكومة والصناعة والمجتمع المدني لمواجهة التحديات التي يفرضها الذكاء الاصطناعي وضمان تطويره واستخدامه بشكل مسؤول.