ذكر مسؤولون إندونيسيون يوم السبت أنهم يحجبون مؤقتًا الوصول إلى برنامج الدردشة الآلي Grok التابع لشركة xAI، مشيرين إلى مخاوف بشأن توليد صور التزييف العميق الجنسية غير الرضائية. تمثل هذه الخطوة أحد أكثر الإجراءات الحكومية الحاسمة التي تم اتخاذها استجابة لانتشار الصور التي يتم إنشاؤها بواسطة الذكاء الاصطناعي، والتي غالبًا ما تصور نساء حقيقيات وقاصرات في سيناريوهات جنسية صريحة ومسيئة، والتي تمكن المستخدمون من إنشائها عبر Grok على الشبكة الاجتماعية X. تخضع كل من X و xAI لنفس الملكية.

صرحت ميوتيا حفيظ، وزيرة الاتصالات والرقمنة الإندونيسية، بأن "الحكومة تعتبر ممارسة التزييف العميق الجنسي غير الرضائي انتهاكًا خطيرًا لحقوق الإنسان والكرامة وأمن المواطنين في الفضاء الرقمي"، وفقًا لبيان تم نشره مع صحيفة الغارديان ومنشورات أخرى. ورد أن الوزارة استدعت أيضًا مسؤولي X لمناقشة الأمر.

تشير عمليات التزييف العميق، في هذا السياق، إلى الوسائط التي يتم إنشاؤها بواسطة الذكاء الاصطناعي، وعادةً ما تكون صورًا أو مقاطع فيديو، تصور بشكل مقنع الأفراد وهم يفعلون أو يقولون أشياء لم يفعلوها أو يقولوها أبدًا في الواقع. يستخدم Grok، برنامج الدردشة الآلي الخاص بـ xAI، نماذج لغوية كبيرة (LLMs) لإنشاء نصوص، وفي بعض الحالات، صورًا بناءً على مطالبات المستخدم. ينشأ القلق عندما يتم استخدام هذه النماذج اللغوية الكبيرة لإنشاء محتوى جنسي واقعي ولكنه ملفق دون موافقة الأفراد المصورين.

تسلط الحادثة الضوء على التحدي المتزايد المتمثل في تنظيم المحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي وإمكانية إساءة استخدام أدوات الذكاء الاصطناعي التوليدية القوية. قد يكون التأثير على الصناعة كبيرًا، مما قد يؤدي إلى لوائح أكثر صرامة وزيادة التدقيق في سياسات الإشراف على المحتوى الخاصة بشركات الذكاء الاصطناعي.

اتخذت هيئات حكومية أخرى إجراءات أيضًا. أمرت وزارة تكنولوجيا المعلومات الهندية xAI بمنع Grok من إنشاء محتوى فاحش. طلب المفوضية الأوروبية من الشركة الاحتفاظ بجميع المستندات المتعلقة بـ Grok، مما قد يمهد الطريق لإجراء تحقيق رسمي. في المملكة المتحدة، علق منظم الاتصالات Ofcom على القضية.

لا يزال حجب Grok في إندونيسيا مؤقتًا، في انتظار مزيد من المناقشات بين المسؤولين الإندونيسيين وممثلي X. من المرجح أن تؤثر نتائج هذه المناقشات على التوفر المستقبلي لـ Grok في إندونيسيا ويمكن أن تشكل سابقة لكيفية تعامل البلدان الأخرى مع قضية التزييف العميق الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي.