قال مسؤولون إندونيسيون يوم السبت إنهم يحجبون مؤقتًا الوصول إلى روبوت الدردشة Grok التابع لـ xAI، مشيرين إلى مخاوف بشأن توليد صور التزييف العميق الجنسية غير الرضائية. وتمثل هذه الخطوة واحدة من أشد استجابات الحكومات لانتشار الصور المولدة بالذكاء الاصطناعي التي تصور نساء وقاصرين حقيقيين، بما في ذلك صور الاعتداء والإيذاء، والتي ورد أنها أنتجت بواسطة Grok استجابةً لمطالبات المستخدمين على الشبكة الاجتماعية X. X و xAI مملوكتان لنفس الشركة.

صرحت ميوتيا حفيظ، وزيرة الاتصالات والرقمنة الإندونيسية، بأن الحكومة تعتبر إنشاء صور التزييف العميق الجنسية غير الرضائية انتهاكًا خطيرًا لحقوق الإنسان والكرامة وأمن المواطنين في العالم الرقمي. وقد شاركت بيانها مع صحيفة الغارديان ووسائل إعلام أخرى. ورد أن الوزارة استدعت أيضًا مسؤولي X لمناقشة القضية.

تستخدم صور التزييف العميق، وهي كلمة منحوتة من "التعلم العميق" و "التزييف"، الذكاء الاصطناعي، وتحديدًا تقنيات التعلم العميق، لإنشاء مقاطع فيديو أو صور واقعية للغاية ولكنها ملفقة. يمكن لهذه التقنيات أن تبدل الوجوه بشكل مقنع في مقاطع الفيديو الموجودة أو توليد محتوى اصطناعي جديد تمامًا. يكمن القلق في احتمال الاستخدام الخبيث، بما في ذلك إنشاء محتوى تشهيري ونشر معلومات مضللة، وكما في هذه الحالة، توليد مواد إباحية غير رضائية.

تم تصميم روبوت الدردشة Grok، التابع لـ xAI، للإجابة على الأسئلة بأسلوب محادثة وهو مدمج في منصة X. يتميز، وفقًا لـ xAI، بقدرته على الإجابة على الأسئلة التي قد ترفض أنظمة الذكاء الاصطناعي الأخرى الإجابة عليها. ومع ذلك، يبدو أن هذه الميزة ساهمت في توليد محتوى ضار.

يأتي الإجراء الذي اتخذته الحكومة الإندونيسية في أعقاب مخاوف مماثلة أثارتها دول أخرى. أمرت وزارة تكنولوجيا المعلومات الهندية xAI باتخاذ تدابير لمنع Grok من توليد محتوى فاحش. طلبت المفوضية الأوروبية أيضًا من الشركة الاحتفاظ بجميع المستندات المتعلقة بـ Grok، مما قد يشير إلى بداية تحقيق رسمي. في المملكة المتحدة، ذكرت هيئة تنظيم الاتصالات Ofcom أنها على علم بالقضية.

يسلط حجب Grok في إندونيسيا الضوء على التحديات التنظيمية المتزايدة التي تفرضها تقنيات الذكاء الاصطناعي المتقدمة بسرعة. تكافح الحكومات في جميع أنحاء العالم لتحقيق التوازن بين الابتكار والحاجة إلى حماية المواطنين من الأضرار المحتملة للمحتوى الناتج عن الذكاء الاصطناعي. تشير خطوة الحكومة الإندونيسية بحجب Grok، ولو مؤقتًا، إلى استعدادها لاتخاذ إجراءات حاسمة لمعالجة هذه المخاوف. لا تزال نتائج المناقشات بين المسؤولين الإندونيسيين وممثلي X غير واضحة، ولكن من المرجح أن تؤثر على التوفر المستقبلي لروبوتات الدردشة التي تعمل بالذكاء الاصطناعي وتنظيمها في المنطقة.