أعرب مقر رئاسة الوزراء في 10 داونينج ستريت عن استحسانه للتقارير التي تشير إلى أن منصة X، المعروفة سابقًا باسم تويتر، تتخذ خطوات لمعالجة مشكلة التزييف العميق (deepfakes) التي يتم إنشاؤها باستخدام Grok، نموذج الذكاء الاصطناعي الخاص بها. تأتي هذه الخطوة وسط مخاوف متزايدة بشأن احتمال إساءة استخدام المحتوى الناتج عن الذكاء الاصطناعي لنشر المعلومات المضللة والدعاية.

يعكس رد الحكومة الإيجابي دفعة أوسع لتطوير ونشر الذكاء الاصطناعي بشكل مسؤول. وصرح متحدث باسم الحكومة: "نرحب بأي جهود للتخفيف من المخاطر المرتبطة بالتزييف العميق الناتج عن الذكاء الاصطناعي". "من الأهمية بمكان أن تتخذ شركات التكنولوجيا تدابير استباقية لضمان عدم استخدام تقنياتها لأغراض خبيثة."

التزييف العميق (Deepfakes)، وهي كلمة مركبة من "التعلم العميق" (deep learning) و "تزييف" (fake)، هي وسائط اصطناعية يتم فيها استبدال شخص في صورة أو مقطع فيديو موجود بشخص آخر. Grok، نموذج اللغة الكبير الخاص بمنصة X، قادر على إنشاء نصوص وصور واقعية، مما يثير مخاوف من إمكانية استخدامه لإنشاء محتوى مقنع ولكنه ملفق. تعتمد هذه التقنية على خوارزميات متطورة، بما في ذلك الشبكات التوليدية الخصومية (GANs)، لتعلم وتكرار الأنماط من البيانات الموجودة. تتضمن الشبكات التوليدية الخصومية (GANs) شبكتين عصبيتين، مولد ومميز، تتنافسان ضد بعضهما البعض لإنتاج مخرجات واقعية بشكل متزايد.

لم يتم الكشف بالكامل عن التدابير المحددة التي يُزعم أن منصة X تنفذها لمكافحة التزييف العميق الناتج عن Grok. ومع ذلك، يتكهن خبراء الصناعة بأنها قد تشمل وضع علامات مائية على المحتوى الناتج عن الذكاء الاصطناعي، وتطوير أدوات للكشف عن التزييف العميق، وتنفيذ سياسات أكثر صرامة للإشراف على المحتوى. يتضمن وضع العلامات المائية تضمين إشارة دقيقة، غالبًا ما تكون غير محسوسة، في صورة أو مقطع فيديو للإشارة إلى أنه تم إنشاؤه بواسطة الذكاء الاصطناعي. تستخدم أدوات الكشف خوارزميات التعلم الآلي لتحليل الوسائط وتحديد العلامات الدالة على التلاعب.

يشكل صعود التزييف العميق تحديًا كبيرًا للثقة والمصداقية في العصر الرقمي. يحذر الخبراء من أن مقاطع الفيديو والصور الملفقة هذه يمكن استخدامها للتلاعب بالرأي العام وتشويه السمعة وحتى التحريض على العنف. التأثير المحتمل على الانتخابات والخطاب السياسي مثير للقلق بشكل خاص.

تواجه منصات التواصل الاجتماعي الأخرى ومطورو الذكاء الاصطناعي أيضًا قضية التزييف العميق. استثمرت شركات مثل Meta و Google بكثافة في البحث والتطوير للكشف عن الوسائط التي تم التلاعب بها وإزالتها من منصاتها. تعمل الشراكة المعنية بالذكاء الاصطناعي (Partnership on AI)، وهي اتحاد لشركات التكنولوجيا والأكاديميين ومنظمات المجتمع المدني، على تطوير مبادئ توجيهية أخلاقية وأفضل الممارسات لتطوير الذكاء الاصطناعي.

لا يزال الوضع الحالي لجهود منصة X لمعالجة التزييف العميق الناتج عن Grok غير واضح. من المتوقع أن تصدر الشركة مزيدًا من التفاصيل في الأسابيع المقبلة. أشارت الحكومة إلى أنها ستواصل مراقبة الوضع عن كثب والعمل مع شركات التكنولوجيا لضمان التطوير والنشر المسؤولين لتقنيات الذكاء الاصطناعي.