يطالب مسؤولون حكوميون منصة التواصل الاجتماعي X التابعة لإيلون ماسك بمعالجة انتشار ما وصفوه بـ "التزييف العميق المروع" الذي يولده Grok، وهو روبوت الدردشة للذكاء الاصطناعي الخاص بالمنصة. وتتركز المخاوف حول احتمال انتشار مقاطع الفيديو والصور التي يتم إنشاؤها بواسطة الذكاء الاصطناعي والتي تنشر معلومات مضللة وتتسبب في أضرار للسمعة.

وتدعو مطالب الحكومة، الصادرة يوم الأربعاء، X إلى تطبيق ضمانات أكثر صرامة ضد إنشاء ونشر التزييف العميق باستخدام Grok. واستشهد المسؤولون تحديدًا بحالات تم فيها استخدام Grok لإنشاء مقاطع فيديو واقعية ولكنها ملفقة لشخصيات عامة تدلي بتصريحات كاذبة. ويقولون إن عمليات التزييف العميق هذه تشكل تهديدًا كبيرًا لسلامة الخطاب العام ويمكن استخدامها للتلاعب بالانتخابات أو التحريض على العنف.

وقال متحدث باسم لجنة التجارة الفيدرالية (FTC) في بيان صدر: "لقد تقدمت التكنولوجيا إلى درجة أصبح من الصعب على الشخص العادي التمييز بين المحتوى الحقيقي والمزيف". "تتحمل X مسؤولية التأكد من أن أدوات الذكاء الاصطناعي الخاصة بها لا تستخدم لخداع وتضليل الجمهور."

Grok، الذي أطلقته شركة xAI للذكاء الاصطناعي التابعة لماسك في نوفمبر 2023، هو نموذج لغوي كبير (LLM) مصمم للإجابة على الأسئلة بأسلوب فكاهي ومتمرد، بالاعتماد على بيانات في الوقت الفعلي من X. وهو متاح حاليًا لمشتركي X Premium+. يعتمد الذكاء الاصطناعي على بنية مملوكة ومدرب على مجموعة بيانات ضخمة من النصوص والأكواد، مما يمكنه من إنشاء نصوص وترجمة لغات وكتابة أنواع مختلفة من المحتوى الإبداعي والإجابة على الأسئلة بطريقة إعلامية. ومع ذلك، فإن قدرته على الوصول إلى المعلومات ومعالجتها في الوقت الفعلي من X، جنبًا إلى جنب مع قدراته التوليدية، أثارت مخاوف بشأن احتمال إساءة استخدامه.

تسلط هذه القضية الضوء على التحدي المتزايد المتمثل في تنظيم المحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي على منصات التواصل الاجتماعي. يمكن لعمليات التزييف العميق، التي يتم إنشاؤها باستخدام تقنيات التعلم الآلي المتطورة، أن تحاكي بشكل مقنع مظهر الشخص وصوته، مما يجعل من الصعب اكتشاف طبيعتها الاحتيالية. وتصارع الصناعة مع كيفية الموازنة بين فوائد ابتكار الذكاء الاصطناعي والحاجة إلى الحماية من أضراره المحتملة.

وقال ممثل عن X في رد عبر البريد الإلكتروني: "نحن نعمل بنشاط على تحسين آليات الكشف والوقاية الخاصة بنا لعمليات التزييف العميق". "نحن ملتزمون بضمان بقاء X منصة آمنة وموثوقة لمستخدمينا." وذكرت الشركة أنها تستكشف حلولًا تقنية مختلفة، بما في ذلك وضع علامات مائية على المحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي وتنفيذ سياسات أكثر صرامة للإشراف على المحتوى.

يقول الخبراء إن الكشف الفعال عن التزييف العميق يتطلب اتباع نهج متعدد الأوجه، بما في ذلك خوارزميات الذكاء الاصطناعي المتقدمة التي يمكنها تحليل الفيديو والصوت بحثًا عن العلامات الدالة على التلاعب، بالإضافة إلى الإشراف البشري لمراجعة المحتوى الذي تم الإبلاغ عنه. يكمن التحدي في البقاء في صدارة التكنولوجيا سريعة التطور، حيث أصبحت تقنيات التزييف العميق متطورة بشكل متزايد.

تمارس مطالب الحكومة ضغوطًا على X لاتخاذ إجراءات ملموسة لمعالجة هذه القضية. قد يؤدي عدم القيام بذلك إلى تدقيق تنظيمي وإجراءات قانونية محتملة. تتمتع لجنة التجارة الفيدرالية بسلطة التحقيق مع الشركات التي تنخرط في ممارسات خادعة أو غير عادلة ومقاضاتها، بما في ذلك نشر المعلومات المضللة. الوضع مستمر، ومن المتوقع حدوث مزيد من التطورات مع استجابة X لمخاوف الحكومة وتنفيذ ضمانات جديدة.