قال مسؤولون إندونيسيون يوم السبت إنهم يحظرون مؤقتًا الوصول إلى روبوت الدردشة Grok التابع لـ xAI، مشيرين إلى مخاوف بشأن توليد صور التزييف العميق الجنسية غير الرضائية. تمثل هذه الخطوة واحدة من أكثر الإجراءات الحكومية صرامة التي اتخذت ردًا على انتشار الصور التي يتم إنشاؤها بواسطة الذكاء الاصطناعي، والتي غالبًا ما تصور نساء وقاصرات حقيقيات، وأحيانًا تعرض الاعتداء والإيذاء، والتي يُزعم أن Grok أنتجها استجابةً لمطالبات المستخدمين على الشبكة الاجتماعية X. تخضع كل من X و xAI لنفس الملكية.

صرحت ميوتيا حفيد، وزيرة الاتصالات والمعلوماتية الإندونيسية، بأن "الحكومة تعتبر ممارسة التزييف العميق الجنسي غير الرضائي انتهاكًا خطيرًا لحقوق الإنسان والكرامة وأمن المواطنين في الفضاء الرقمي"، وفقًا لبيان تم نشره مع صحيفة الغارديان ومنشورات أخرى. ورد أن الوزارة استدعت أيضًا مسؤولي X لمناقشة الأمر.

تشير التزييفات العميقة، في هذا السياق، إلى الوسائط التي يتم إنشاؤها بواسطة الذكاء الاصطناعي، وغالبًا ما تكون مقاطع فيديو أو صورًا، تصور بشكل مقنع الأفراد وهم يفعلون أو يقولون أشياء لم يفعلوها أبدًا. تعتمد هذه التقنية على خوارزميات متطورة للتعلم الآلي، وتحديدًا التعلم العميق، لمعالجة وتجميع المحتوى المرئي والصوتي. يثور القلق عندما يتم إنشاء هذه التزييفات العميقة دون موافقة، خاصةً عندما تكون ذات طابع جنسي أو استغلالي.

يأتي الإجراء الذي اتخذته الحكومة الإندونيسية في أعقاب مخاوف مماثلة أثارتها هيئات دولية أخرى. أمرت وزارة تكنولوجيا المعلومات الهندية xAI بتنفيذ تدابير لمنع Grok من إنشاء محتوى فاحش. طلبت المفوضية الأوروبية أيضًا من الشركة الاحتفاظ بجميع المستندات المتعلقة بـ Grok، مما قد يشير إلى بداية تحقيق رسمي. في المملكة المتحدة، ذكرت هيئة تنظيم الاتصالات Ofcom أنها تراقب الوضع.

Grok هو ذكاء اصطناعي للمحادثة تم تطويره بواسطة xAI، شركة الذكاء الاصطناعي التابعة لإيلون ماسك. وهو مصمم للإجابة على الأسئلة وإنشاء النصوص، على غرار نماذج اللغة الكبيرة الأخرى مثل ChatGPT. ومع ذلك، أثيرت مخاوف بشأن احتمال إساءة استخدامه في إنشاء محتوى ضار.

يسلط حظر Grok في إندونيسيا الضوء على التحديات المتزايدة والتعقيدات التنظيمية المحيطة بالمحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي. تكافح الحكومات في جميع أنحاء العالم لتحقيق التوازن بين الابتكار والحاجة إلى حماية الأفراد من الأضرار المحتملة لهذه التكنولوجيا. يؤكد قرار الحكومة الإندونيسية بحظر Grok على الجدية التي تنظر بها إلى قضية التزييفات العميقة غير الرضائية والتزامها بحماية مواطنيها في العالم الرقمي. من المرجح أن تحدد نتيجة الاجتماع بين المسؤولين الإندونيسيين وممثلي X، بالإضافة إلى أي إجراءات لاحقة تتخذها xAI، مستقبل توفر Grok في إندونيسيا.