حظرت السلطات في إندونيسيا وماليزيا مؤقتًا الوصول إلى برنامج الدردشة الآلي Grok التابع لشركة xAI، وذلك استجابة لانتشار الصور الجنسية الزائفة العميقة (deepfakes) التي تم إنشاؤها بواسطة الذكاء الاصطناعي دون موافقة أصحابها. وتمثل هذه الإجراءات أقوى ردود فعل حكومية حتى الآن على تصاعد الصور المولدة بالذكاء الاصطناعي، والتي غالبًا ما تصور نساءً وقاصرين حقيقيين، وتتضمن أحيانًا عنفًا، والتي نشرها المستخدمون عبر Grok على شبكة التواصل الاجتماعي X. وتجدر الإشارة إلى أن كلاً من X و xAI هما جزء من نفس الشركة.

صرحت وزيرة الاتصالات والإعلام الرقمي الإندونيسية، موتيا حفيد، بأن الحكومة تعتبر إنشاء وتوزيع الصور الجنسية الزائفة العميقة دون موافقة أصحابها انتهاكًا خطيرًا لحقوق الإنسان والكرامة وأمن المواطنين في العالم الرقمي. وقد تم نشر تصريح حفيد لصحيفة الغارديان ووسائل إعلامية أخرى يوم السبت. وبحسب التقارير، استدعت الوزارة الإندونيسية أيضًا مسؤولي X لمناقشة الأمر. وذكرت صحيفة نيويورك تايمز أن الحكومة الماليزية أعلنت عن حظر مماثل يوم الأحد.

تستخدم الصور الزائفة العميقة، المعروفة تقنيًا بالوسائط الاصطناعية، الذكاء الاصطناعي، وتحديدًا تقنيات التعلم العميق، لإنشاء صور أو مقاطع فيديو أو تسجيلات صوتية واقعية ولكنها ملفقة. في هذه الحالة، تمكن المستخدمون من مطالبة Grok بإنشاء محتوى صريح واستغلالي يضم أفرادًا دون موافقتهم. ثم تمت مشاركة الصور الناتجة على X، مما ضاعف الضرر.

يأتي الحظر في إندونيسيا وماليزيا في أعقاب إجراءات حكومية أخرى اتخذت استجابة لهذه القضية. أمرت وزارة تكنولوجيا المعلومات الهندية xAI بتنفيذ تدابير لمنع Grok من إنشاء محتوى فاحش. كما وجهت المفوضية الأوروبية الشركة بالاحتفاظ بجميع المستندات المتعلقة بـ Grok، مما قد يمهد الطريق لإجراء تحقيق رسمي في قدرات الذكاء الاصطناعي والضمانات الموجودة.

قد يكون التأثير الصناعي لهذه الحظر كبيرًا. فهي تسلط الضوء على المخاوف المتزايدة بشأن إساءة استخدام تقنيات الذكاء الاصطناعي واحتمال حدوث ضرر. قد تدفع الإجراءات التي اتخذتها إندونيسيا وماليزيا دولًا أخرى إلى التفكير في اتخاذ تدابير مماثلة، مما قد يؤدي إلى زيادة تنظيم المنصات التي تعمل بالذكاء الاصطناعي وزيادة التركيز على الإشراف على المحتوى وسلامة المستخدم. يسلط الحادث الضوء أيضًا على التحديات التي يواجهها مطورو الذكاء الاصطناعي في منع إساءة استخدام تقنياتهم، لا سيما في سياق نماذج الذكاء الاصطناعي التوليدية مثل Grok، المصممة للاستجابة لمجموعة واسعة من مطالبات المستخدمين. لا يزال الحظر ساري المفعول، ومن المتوقع حدوث المزيد من التطورات مع استمرار المناقشات بين المسؤولين الحكوميين وممثلي X.