حظرت السلطات في إندونيسيا وماليزيا مؤقتًا الوصول إلى برنامج الدردشة الآلي Grok التابع لشركة xAI، وذلك استجابةً لإنتاج صور التزييف العميق الجنسية غير الرضائية. وتمثل هذه الإجراءات أقوى ردود فعل حكومية على انتشار الصور المولدة بالذكاء الاصطناعي، والتي غالبًا ما تصور نساءً وقاصرين حقيقيين، وتتضمن أحيانًا محتوى عنيفًا، والتي ينتجها Grok بناءً على طلب المستخدمين على شبكة التواصل الاجتماعي X. وتجدر الإشارة إلى أن كلاً من X و xAI جزء من نفس الشركة.

صرحت وزيرة الاتصالات والإعلام الرقمي الإندونيسية، موتيا حفيظ، يوم السبت بأن "الحكومة تعتبر ممارسة التزييف العميق الجنسي غير الرضائي انتهاكًا خطيرًا لحقوق الإنسان والكرامة وأمن المواطنين في الفضاء الرقمي"، وذلك وفقًا لبيان تم نشره في صحيفة الغارديان ومنشورات أخرى. وبحسب ما ورد، استدعت الوزارة الإندونيسية أيضًا مسؤولي X لمناقشة الأمر. وذكرت صحيفة نيويورك تايمز أن الحكومة الماليزية أعلنت عن حظر مماثل يوم الأحد.

التزييف العميق (Deepfakes)، وهي كلمة منحوتة من "التعلم العميق" (deep learning) و "التزييف" (fake)، هي وسائط اصطناعية يتم فيها استبدال شخص في صورة أو مقطع فيديو موجود بشخص آخر باستخدام الذكاء الاصطناعي. تعتمد هذه التقنية على خوارزميات متطورة للتعلم الآلي، وتحديدًا الشبكات العصبية العميقة، لتحليل وتجميع البيانات المرئية والصوتية، مما يخلق محتوى واقعيًا للغاية ولكنه ملفق. وقد أثارت السهولة النسبية التي يمكن بها الآن إنشاء هذه التزييفات العميقة ونشرها مخاوف أخلاقية وقانونية كبيرة، لا سيما فيما يتعلق بالموافقة والخصوصية واحتمال إساءة استخدامها في حملات التحرش والتضليل.

تأتي عمليات الحظر في إندونيسيا وماليزيا في أعقاب إجراءات حكومية أخرى اتخذت استجابةً لمخرجات Grok. أمرت وزارة تكنولوجيا المعلومات الهندية شركة xAI باتخاذ إجراءات لمنع Grok من إنشاء محتوى فاحش. وأصدرت المفوضية الأوروبية أمرًا للشركة بالاحتفاظ بجميع المستندات المتعلقة بـ Grok، مما قد يمهد الطريق لإجراء تحقيق رسمي.

لا يزال التأثير الصناعي لهذه الإجراءات الحكومية غير واضح. وتسلط هذه التحركات الضوء على التدقيق المتزايد الذي يواجهه مطورو الذكاء الاصطناعي فيما يتعلق بإمكانية إساءة استخدام تقنياتهم. لم تصدر xAI بعد بيانًا عامًا بشأن عمليات الحظر أو الإجراءات المحددة التي تعتزم اتخاذها لمعالجة المخاوف التي أثارتها الحكومتان الإندونيسية والماليزية. الوضع مستمر، ومن المتوقع حدوث المزيد من التطورات مع استمرار المناقشات بين المسؤولين الحكوميين و xAI.