أقرت رئاسة الوزراء في داونينج ستريت بتقارير تفيد بأن منصة X، المعروفة سابقًا باسم تويتر، تتخذ خطوات لمعالجة مشكلة التزييف العميق (deepfakes) التي يتم إنشاؤها باستخدام Grok، نموذج الذكاء الاصطناعي الخاص بها. تأتي هذه الخطوة وسط مخاوف متزايدة بشأن احتمال إساءة استخدام المحتوى الناتج عن الذكاء الاصطناعي في نشر المعلومات المضللة والتأثير على الرأي العام.
صرح متحدث باسم مكتب رئيس الوزراء بأن الحكومة ترحب بأي جهود تبذلها منصات التواصل الاجتماعي للتخفيف من المخاطر المرتبطة بالتزييف العميق. وقال المتحدث: "لقد كنا واضحين بشأن ضرورة تحمل شركات التكنولوجيا المسؤولية عن المحتوى المستضاف على منصاتها، لا سيما عندما يتعلق الأمر بالمواد التي يتم إنشاؤها بواسطة الذكاء الاصطناعي والتي يمكن استخدامها لخداع أو تضليل".
التزييف العميق هو وسائط اصطناعية يتم فيها استبدال شخص في صورة أو مقطع فيديو موجود بشخص آخر. يتحقق ذلك عادةً باستخدام تقنيات متطورة للتعلم الآلي، وتحديدًا خوارزميات التعلم العميق، ومن هنا جاء الاسم. Grok، نموذج الذكاء الاصطناعي الخاص بمنصة X، هو نموذج لغوي كبير (LLM) مشابه لسلسلة GPT الخاصة بـ OpenAI أو Gemini الخاص بـ Google. يتم تدريب النماذج اللغوية الكبيرة على كميات هائلة من البيانات النصية، مما يمكنها من إنشاء نصوص شبيهة بالنصوص البشرية، وترجمة اللغات، وإنشاء أنواع مختلفة من المحتوى الإبداعي، بما في ذلك النص الأساسي لتطبيقات التزييف العميق.
لم يتم الكشف عن التدابير المحددة التي يُزعم أن منصة X تنفذها لمكافحة التزييف العميق الذي تم إنشاؤه بواسطة Grok بشكل كامل. ومع ذلك، يتكهن محللو الصناعة بأنها يمكن أن تشمل خوارزميات محسنة للكشف عن المحتوى، وعمليات تحقق أكثر صرامة من المستخدمين، وسياسات تصنيف أكثر وضوحًا للمحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي. تحلل خوارزميات الكشف عن المحتوى الوسائط بحثًا عن علامات تدل على التلاعب، مثل التناقضات في الإضاءة أو حركات الوجه غير الطبيعية أو التشوهات التي يتم إدخالها أثناء عملية إنشاء التزييف العميق.
أدى ظهور أدوات الذكاء الاصطناعي التي يمكن الوصول إليها مثل Grok إلى خفض حاجز الدخول لإنشاء التزييف العميق، مما يسهل على الجهات الخبيثة إنتاج ونشر محتوى مقنع ولكنه ملفق. يشكل هذا تحديًا كبيرًا للنظام البيئي للمعلومات، مما قد يقوض الثقة في المصادر والمؤسسات الإخبارية المشروعة.
تدرس حكومة المملكة المتحدة بنشاط الأطر التنظيمية للذكاء الاصطناعي، بما في ذلك تدابير لمعالجة المخاطر المرتبطة بالتزييف العميق. يفرض قانون السلامة على الإنترنت، الذي دخل حيز التنفيذ مؤخرًا، واجب رعاية على منصات التواصل الاجتماعي لحماية المستخدمين من المحتوى غير القانوني والضار، والذي يمكن تفسيره على أنه يشمل أنواعًا معينة من التزييف العميق.
لم تصدر منصة X بعد بيانًا رسميًا يوضح بالتفصيل خططها. ومن المتوقع أن تقدم الشركة مزيدًا من المعلومات حول نهجها في معالجة التزييف العميق المتعلق بـ Grok في الأسابيع المقبلة. ستتم مراقبة فعالية تدابير منصة X عن كثب من قبل صانعي السياسات والجهات التنظيمية والجمهور، حيث يستمر الجدل حول التطوير والنشر المسؤولين للذكاء الاصطناعي.
Discussion
Join the conversation
Be the first to comment