أفاد مسؤولون إندونيسيون يوم السبت أنهم يحجبون مؤقتًا الوصول إلى روبوت الدردشة Grok التابع لشركة xAI، مشيرين إلى مخاوف بشأن توليد صور التزييف العميق الجنسية غير الرضائية. يمثل هذا الإجراء أحد أشد الاستجابات الحكومية لانتشار الصور المولدة بالذكاء الاصطناعي التي تصور نساء وقاصرات حقيقيات، بما في ذلك حالات الاعتداء والإيذاء، والتي ورد أنها أنتجت بواسطة Grok استجابةً لمطالبات المستخدمين على الشبكة الاجتماعية X. تخضع كل من X و xAI لنفس الملكية.

صرحت ميوتيا حفيظ، وزيرة الاتصالات والإعلام الرقمي الإندونيسية، بأن الحكومة تعتبر "ممارسة التزييف العميق الجنسي غير الرضائي انتهاكًا خطيرًا لحقوق الإنسان والكرامة وأمن المواطنين في الفضاء الرقمي"، وفقًا لبيان تم نشره مع صحيفة الغارديان ومنشورات أخرى. ورد أن الوزارة استدعت أيضًا مسؤولي X لمناقشة الأمر.

التزييف العميق (Deepfakes)، وهي كلمة منحوتة من "التعلم العميق" (deep learning) و "التزييف" (fake)، هي وسائط اصطناعية يتم فيها استبدال شخص في صورة أو مقطع فيديو موجود بشخص آخر. يمكن استخدام هذه التقنية، المدعومة بالذكاء الاصطناعي، لإنشاء محتوى واقعي ولكنه ملفق، مما يثير مخاوف أخلاقية وقانونية كبيرة، لا سيما عند استخدامها لإنشاء مواد إباحية غير رضائية أو نشر معلومات مضللة.

تأتي خطوة إندونيسيا في أعقاب إجراءات مماثلة اتخذتها هيئات حكومية أخرى. أمرت وزارة تكنولوجيا المعلومات الهندية شركة xAI بتنفيذ تدابير لمنع Grok من توليد محتوى فاحش. كما وجهت المفوضية الأوروبية الشركة بالاحتفاظ بجميع المستندات المتعلقة بـ Grok، مما قد يشير إلى بدء تحقيق رسمي. في المملكة المتحدة، عالجت Ofcom، وهي هيئة تنظيم الاتصالات، القضية أيضًا.

Grok هو روبوت دردشة يعمل بالذكاء الاصطناعي طورته شركة xAI، وهي شركة الذكاء الاصطناعي التابعة لإيلون ماسك. وهو مصمم للإجابة على الأسئلة والمشاركة في المحادثات، على غرار نماذج اللغة الكبيرة الأخرى مثل ChatGPT و Gemini من Google. ومع ذلك، أثيرت مخاوف بشأن احتمالية إساءة استخدامه، لا سيما في إنشاء محتوى ضار أو مسيء.

يسلط حجب Grok في إندونيسيا الضوء على التحديات المتزايدة التي تواجهها شركات التكنولوجيا والجهات التنظيمية في معالجة الآثار الأخلاقية للمحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي. يؤكد الحادث على الحاجة إلى ضمانات قوية وسياسات للإشراف على المحتوى لمنع إساءة استخدام تقنيات الذكاء الاصطناعي وحماية الأفراد من الأذى. قد تحدد إجراءات الحكومة الإندونيسية سابقة لبلدان أخرى تواجه قضايا مماثلة، مما قد يؤثر على التطوير المستقبلي ونشر روبوتات الدردشة التي تعمل بالذكاء الاصطناعي وأدوات الذكاء الاصطناعي التوليدية الأخرى. لا تزال نتائج المناقشات بين المسؤولين الإندونيسيين وممثلي X غير واضحة، ولكن من المتوقع أن تؤثر على التوفر المستقبلي ووظائف Grok في المنطقة.