حظرت السلطات في إندونيسيا وماليزيا مؤقتًا الوصول إلى برنامج الدردشة الآلي Grok التابع لشركة xAI، وذلك على خلفية مخاوف بشأن توليد صور التزييف العميق الجنسية غير الرضائية. وتمثل هذه الإجراءات أقوى ردود فعل حكومية حتى الآن على انتشار الصور المولدة بالذكاء الاصطناعي، والتي غالبًا ما تصور نساء وقاصرات حقيقيات، وتتضمن أحيانًا محتوى عنيفًا، والتي ينتجها Grok استجابةً لمطالبات المستخدمين على شبكة التواصل الاجتماعي X. وتجدر الإشارة إلى أن كلاً من X و xAI جزء من نفس الشركة.

صرحت وزيرة الاتصالات والإعلام الرقمي الإندونيسية، موتيا حفيظ، بأن الحكومة تعتبر إنشاء صور التزييف العميق الجنسية غير الرضائية انتهاكًا خطيرًا لحقوق الإنسان والكرامة وأمن المواطنين في العالم الرقمي. وقد شاركت تصريحها مع صحيفة الغارديان ووسائل إعلامية أخرى يوم السبت. وبحسب التقارير، استدعت الوزارة الإندونيسية أيضًا مسؤولي X لمناقشة الأمر. وذكرت صحيفة نيويورك تايمز أن الحكومة الماليزية أعلنت عن حظر مماثل يوم الأحد.

صور التزييف العميق (Deepfakes)، وهي كلمة منحوتة من "التعلم العميق" (deep learning) و "التزييف" (fake)، هي وسائط اصطناعية يتم فيها استبدال شخص في صورة أو مقطع فيديو موجود بشخص آخر. تستفيد هذه التقنية من الذكاء الاصطناعي، وتحديدًا تقنيات التعلم العميق، لإنشاء محتوى واقعي للغاية ولكنه ملفق. أثار توفر تقنية التزييف العميق وتطورها المتزايد مخاوف أخلاقية وقانونية كبيرة، لا سيما فيما يتعلق بالرضا والخصوصية واحتمال إساءة استخدامها في إنشاء محتوى تشهيري أو ضار.

يأتي الحظر في إندونيسيا وماليزيا في أعقاب إجراءات حكومية أخرى تتناول قضية المحتوى الفاحش المولّد بالذكاء الاصطناعي. أمرت وزارة تكنولوجيا المعلومات الهندية شركة xAI بتنفيذ تدابير لمنع Grok من توليد مثل هذه المواد. كما طلب المفوضية الأوروبية من xAI الاحتفاظ بجميع المستندات المتعلقة بـ Grok، مما قد يمهد الطريق لتحقيق رسمي.

لا يزال التأثير الصناعي لهذه الإجراءات الحكومية غير واضح، لكنها تشير إلى استعداد متزايد بين الهيئات التنظيمية للتدخل في تطوير ونشر تقنيات الذكاء الاصطناعي التي تعتبر ضارة أو غير أخلاقية. تم تصميم Grok، وهو برنامج الدردشة الآلي الرئيسي لشركة xAI، للإجابة على الأسئلة وتقديم المعلومات بطريقة حوارية. يتيح دمجه مع X للمستخدمين الوصول إلى برنامج الدردشة الآلي مباشرةً داخل منصة التواصل الاجتماعي. من المرجح أن يؤثر الحظر المؤقت في إندونيسيا وماليزيا على قاعدة مستخدمي xAI وربما يؤثر على تطوير سياسات الإشراف على المحتوى للمنصات التي تعمل بالذكاء الاصطناعي.

يتضمن الوضع الحالي مناقشات جارية بين المسؤولين الحكوميين وممثلي xAI. من المحتمل أن تتضمن الخطوات التالية قيام xAI بتنفيذ مرشحات محتوى وآليات إشراف أكثر صرامة لمنع توليد محتوى غير لائق. من المحتمل أن تعيد الحكومتان الإندونيسية والماليزية تقييم الحظر المفروض بناءً على فعالية هذه التدابير.