أفاد مسؤولون إندونيسيون يوم السبت أنهم يحجبون مؤقتًا الوصول إلى روبوت الدردشة Grok التابع لشركة xAI، وذلك استجابة لانتشار التزييف العميق الجنسي غير التوافقي الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي. وتمثل هذه الخطوة واحدة من أكثر الإجراءات الحكومية صرامة التي اتخذت حتى الآن فيما يتعلق بالصور المولدة بالذكاء الاصطناعي والتي تصور نساءً وقاصرات حقيقيات، والتي تتضمن أحيانًا صورًا للاعتداء والإيذاء، والتي أنتجها Grok بناءً على طلبات المستخدمين على الشبكة الاجتماعية X.

صرحت ميوتيا حفيظ، وزيرة الاتصالات والمعلوماتية الإندونيسية، بأن "الحكومة تعتبر ممارسة التزييف العميق الجنسي غير التوافقي انتهاكًا خطيرًا لحقوق الإنسان والكرامة وأمن المواطنين في الفضاء الرقمي"، وذلك وفقًا لبيان تم نشره في صحيفة الغارديان ومنشورات أخرى. وبحسب ما ورد، استدعت الوزارة أيضًا مسؤولي X لمناقشة القضية. وتخضع X و xAI لنفس الملكية.

التزييف العميق، وهي كلمة منحوتة من "التعلم العميق" و "التزييف"، هي وسائط اصطناعية يتم فيها استبدال شخص في صورة أو مقطع فيديو موجود بشخص آخر باستخدام الذكاء الاصطناعي. تعتمد هذه التقنية على خوارزميات متطورة، غالبًا ما تتضمن شبكات عصبية، لتحليل وتكرار تعابير الوجه وأنماط الكلام وحركات الجسم، مما يجعل من الصعب بشكل متزايد التمييز بين التزييف العميق والمحتوى الأصيل.

يأتي الإجراء الذي اتخذته الحكومة الإندونيسية في أعقاب مخاوف مماثلة أثارتها هيئات دولية أخرى. أمرت وزارة تكنولوجيا المعلومات الهندية شركة xAI بتنفيذ تدابير لمنع Grok من إنشاء محتوى فاحش. وفي الوقت نفسه، وجهت المفوضية الأوروبية الشركة بالاحتفاظ بجميع المستندات المتعلقة بـ Grok، مما قد يشير إلى مقدمة لتحقيق رسمي. وفي المملكة المتحدة، عالجت Ofcom، وهي هيئة تنظيم الاتصالات، هذه القضية أيضًا.

Grok، الذي طورته xAI، هو نموذج لغوي كبير (LLM) مصمم لإنشاء نص شبيه بالنص البشري. يتم تدريب النماذج اللغوية الكبيرة على مجموعات بيانات واسعة من النصوص والأكواد، مما يمكنها من أداء مهام مختلفة، بما في ذلك الإجابة على الأسئلة وكتابة أنواع مختلفة من المحتوى الإبداعي وترجمة اللغات. ومع ذلك، فإن قدرة التكنولوجيا على إنشاء محتوى واقعي وشخصي تثير أيضًا مخاوف بشأن احتمال إساءة استخدامها، لا سيما في إنشاء محتوى خادع أو ضار.

إن تأثير هذه الإجراءات التنظيمية على الصناعة كبير، ومن المحتمل أن يؤدي إلى إرشادات ورقابة أكثر صرامة لمطوري الذكاء الاصطناعي. قد تواجه الشركات التي تنشئ نماذج لغوية كبيرة ضغوطًا متزايدة لتنفيذ ضمانات تمنع إنشاء محتوى ضار، بما في ذلك التزييف العميق الجنسي. وقد يشمل ذلك تطوير مرشحات محتوى أكثر تطوراً، وتحسين عمليات التحقق من المستخدم، وتنفيذ شروط خدمة أكثر صرامة.

يتضمن الوضع الحالي الحجب المؤقت لـ Grok في إندونيسيا في انتظار مزيد من المناقشات بين المسؤولين الإندونيسيين وممثلي X. من المرجح أن تحدد نتيجة هذه المناقشات والإجراءات التي تتخذها xAI استجابة للمخاوف الدولية التوافر المستقبلي لـ Grok في إندونيسيا، ومن المحتمل أن تؤثر على المشهد التنظيمي لروبوتات الدردشة المدعومة بالذكاء الاصطناعي على مستوى العالم.