طالب مسؤولون منصة التواصل الاجتماعي X التابعة لإيلون ماسك بمعالجة انتشار التزييف العميق (deepfakes) الذي يتم إنشاؤه بواسطة Grok، وهو روبوت الدردشة المدعوم بالذكاء الاصطناعي الخاص بالمنصة، واصفين الوضع بأنه "مروع". جاء هذا الطلب، الصادر يوم الأربعاء، في أعقاب زيادة في تقارير المستخدمين التي تفصل إساءة استخدام Grok لإنشاء ونشر صور ومقاطع فيديو واقعية ولكنها ملفقة، وخاصة تلك الخاصة بالشخصيات العامة.

يتركز قلق الحكومة على احتمال انتشار المعلومات المضللة والتلاعب بالرأي العام والإضرار بالسمعة بسبب هذه التزييفات العميقة. تستخدم التزييفات العميقة، المعروفة تقنيًا بالوسائط الاصطناعية، تقنيات متقدمة للتعلم الآلي، وتحديدًا خوارزميات التعلم العميق، لتغيير أو تلفيق المحتوى المرئي والصوتي بشكل مقنع. يمكن لـ Grok، المدعوم بنموذج لغوي كبير (LLM)، إنشاء صور ومقاطع فيديو من مطالبات نصية، مما يجعله أداة يسهل الوصول إليها لإنشاء التزييفات العميقة.

صرح متحدث باسم الهيئة التنظيمية قائلاً: "إن السهولة التي يمكن بها استخدام Grok لإنشاء هذه المواد الخادعة أمر مقلق للغاية". "تقع على عاتق X مسؤولية تنفيذ ضمانات لمنع إساءة استخدام أدوات الذكاء الاصطناعي الخاصة بها." وأضاف المتحدث أن الحكومة تدرس اتخاذ تدابير تنظيمية إذا فشلت X في معالجة المشكلة بشكل كاف.

أقر ممثلو X بمخاوف الحكومة وذكروا أنهم يعملون بنشاط للتخفيف من المشكلة. وجاء في بيان صادر عن فريق الاتصالات في X: "نحن ملتزمون بضمان الاستخدام المسؤول لـ Grok ونعمل باستمرار على تحسين آليات الكشف والوقاية لدينا". حددت الشركة العديد من الإجراءات التي يتم اتخاذها، بما في ذلك تعزيز سياسات الإشراف على المحتوى الخاصة بها، وتحسين خوارزميات الكشف عن التزييف العميق، وتنفيذ بروتوكولات أكثر صرامة للتحقق من المستخدم.

ومع ذلك، يجادل الخبراء بأن اكتشاف التزييفات العميقة وإزالتها يمثل تحديًا معقدًا ومستمرًا. إن التكنولوجيا المستخدمة لإنشاء التزييفات العميقة تتطور باستمرار، مما يجعل من الصعب على خوارزميات الكشف مواكبة ذلك. علاوة على ذلك، فإن الحجم الهائل للمحتوى الذي يتم إنشاؤه على منصات مثل X يجعل المراجعة اليدوية غير عملية.

أوضحت الدكتورة آنيا شارما، الباحثة في أخلاقيات الذكاء الاصطناعي في معهد التكنولوجيا والمجتمع: "هذه حرب مستمرة". "مع تحسن طرق الكشف، تتحسن أيضًا التقنيات المستخدمة لإنشاء التزييفات العميقة. يتطلب ذلك اتباع نهج متعدد الأوجه، بما في ذلك الحلول التكنولوجية ومبادرات التثقيف الإعلامي والأطر القانونية الواضحة."

يسلط الحادث الضوء على الآثار المجتمعية الأوسع لتقنيات الذكاء الاصطناعي سريعة التطور. في حين أن الذكاء الاصطناعي يقدم فوائد عديدة، إلا أنه يمثل أيضًا تحديات جديدة تتعلق بالمعلومات المضللة والخصوصية والأمن. إن مطالبة الحكومة لـ X تؤكد الضغط المتزايد على شركات التكنولوجيا لمعالجة هذه التحديات بشكل استباقي وضمان التطوير والنشر المسؤولين لأدوات الذكاء الاصطناعي.

لا يزال الوضع متقلبًا، مع استمرار المناقشات بين المسؤولين الحكوميين وممثلي X. ستتم مراقبة فعالية جهود التخفيف التي تبذلها X عن كثب، ولا يزال اتخاذ مزيد من الإجراءات التنظيمية أمرًا واردًا. يمكن أن تحدد النتيجة سابقة لكيفية تنظيم الحكومات لإنشاء المحتوى المدعوم بالذكاء الاصطناعي على منصات التواصل الاجتماعي في المستقبل.