أفاد مسؤولون إندونيسيون يوم السبت أنهم يحظرون مؤقتًا الوصول إلى روبوت الدردشة Grok التابع لـ xAI، وذلك استجابة لانتشار الصور الجنسية المزيفة العميقة (deepfakes) التي تم إنشاؤها بواسطة الذكاء الاصطناعي دون موافقة أصحابها. يمثل هذا الإجراء أحد أشد ردود الفعل الحكومية على القضية المتزايدة المتمثلة في الصور التي يتم إنشاؤها بواسطة الذكاء الاصطناعي والتي تصور نساء وقاصرات حقيقيات، والتي تتضمن أحيانًا صورًا للاعتداء والإيذاء، والتي أنتجها Grok بناءً على طلبات المستخدمين على شبكة التواصل الاجتماعي X. تخضع كل من X و xAI لنفس الملكية.

صرحت ميوتيا حفيد، وزيرة الاتصالات والمعلوماتية الإندونيسية، بأن "الحكومة تعتبر ممارسة الصور الجنسية المزيفة العميقة التي تتم دون موافقة أصحابها انتهاكًا خطيرًا لحقوق الإنسان والكرامة وأمن المواطنين في الفضاء الرقمي"، وذلك وفقًا لبيان تم نشره مع صحيفة الغارديان ومنشورات أخرى. وبحسب ما ورد استدعت الوزارة أيضًا مسؤولي X لمناقشة الأمر.

الصور المزيفة العميقة (Deepfakes)، وهي كلمة مركبة من "التعلم العميق" (deep learning) و "التزييف" (fake)، هي وسائط اصطناعية يتم فيها استبدال شخص في صورة أو مقطع فيديو موجود بشخص آخر. يمكن استخدام هذه التقنية، المدعومة بالذكاء الاصطناعي، لإنشاء محتوى واقعي ولكنه ملفق، مما يثير مخاوف بشأن المعلومات المضللة وانتهاكات الخصوصية والإضرار بالسمعة. أدى الوصول إلى أدوات الذكاء الاصطناعي مثل Grok إلى تضخيم احتمالية إساءة الاستخدام، مما أدى إلى زيادة في الصور المزيفة العميقة التي تتم دون موافقة أصحابها.

Grok، الذي طورته xAI، هو نموذج لغوي كبير (LLM) مصمم للإجابة على الأسئلة وإنشاء النصوص. يتم تدريب النماذج اللغوية الكبيرة (LLMs) على كميات هائلة من البيانات، مما يمكنها من فهم مجموعة واسعة من المطالبات والاستجابة لها. ومع ذلك، فإن قدرتها على إنشاء محتوى واقعي تمثل أيضًا مخاطر، لا سيما عند استخدامها لإنشاء مواد ضارة أو خادعة.

يأتي قرار الحكومة الإندونيسية في أعقاب إجراءات مماثلة اتخذتها دول أخرى. أمرت وزارة تكنولوجيا المعلومات الهندية xAI بمنع Grok من إنشاء محتوى فاحش. طلب المفوضية الأوروبية من الشركة الاحتفاظ بجميع المستندات المتعلقة بـ Grok، مما قد يشير إلى تحقيق وشيك. في المملكة المتحدة، ذكرت هيئة تنظيم الاتصالات Ofcom أنها تراقب الوضع. تشير هذه الاستجابات الدولية إلى قلق عالمي متزايد بشأن الآثار الأخلاقية وإمكانية إساءة استخدام الأدوات التي تعمل بالذكاء الاصطناعي.

يسلط حظر Grok في إندونيسيا الضوء على تحديات تنظيم المحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي والحاجة إلى قيام المطورين بتنفيذ ضمانات لمنع إساءة الاستخدام. يؤكد الحادث أيضًا على أهمية التعاون الدولي في معالجة القضايا الأخلاقية والقانونية المحيطة بتكنولوجيا الذكاء الاصطناعي. لا يزال يتعين رؤية نتائج المناقشات بين المسؤولين الإندونيسيين وممثلي X، بالإضافة إلى أي إجراءات لاحقة تتخذها xAI.