حظرت إندونيسيا الوصول إلى برنامج الدردشة الآلي Grok التابع لإيلون ماسك، مشيرة إلى مخاوف بشأن قدرة الذكاء الاصطناعي على إنشاء صور إباحية عميقة مزيفة غير توافقية. وأعلن وزير الاتصالات والشؤون الرقمية في البلاد الحظر المؤقت يوم السبت، مشيراً إلى أن إنشاء وتوزيع هذه التزييفات العميقة يشكل انتهاكاً خطيراً لحقوق الإنسان والكرامة وأمن المواطنين في العالم الرقمي.

وبهذا القرار، أصبحت إندونيسيا أول دولة تحظر Grok رسمياً بسبب قضية التزييف العميق. وأكدت الوزيرة، موتيا إتش، مسؤولية الحكومة عن حماية الفئات السكانية الضعيفة، وخاصة النساء والأطفال، من الآثار الضارة للمحتوى الإباحي الناتج عن الذكاء الاصطناعي. وقالت موتيا إتش: "من أجل حماية النساء والأطفال والجمهور من مخاطر المحتوى الإباحي المزيف الناتج باستخدام تكنولوجيا الذكاء الاصطناعي، قامت الحكومة مؤقتًا بحظر الوصول إلى تطبيق Grok".

تستخدم التزييفات العميقة، وهي كلمة منحوتة من "التعلم العميق" و "التزييف"، تقنيات الذكاء الاصطناعي المتطورة، وتحديداً خوارزميات التعلم العميق، لإنشاء صور ومقاطع فيديو وتسجيلات صوتية واقعية للغاية ولكنها ملفقة. تمكن هذه التقنيات من التلاعب بالمحتوى الحالي أو إنشاء وسائط اصطناعية بالكامل، مما يجعل التمييز بين المواد الأصلية والمفبركة أمرًا صعبًا في كثير من الأحيان. يكمن القلق المحيط بتقنية التزييف العميق في إمكانية إساءة استخدامها، بما في ذلك إنشاء محتوى تشهيري، ونشر معلومات مضللة، وكما في هذه الحالة، إنشاء مواد إباحية غير توافقية.

يأتي الحظر في أعقاب التدقيق الدولي المتزايد لقدرات Grok على إنشاء الصور. سلطت تقارير حديثة الضوء على الحالات التي تمكن فيها المستخدمون من التلاعب بالصور عبر الإنترنت باستخدام Grok لإزالة الملابس، مما أدى إلى تصويرات جنسية صريحة للأفراد دون موافقتهم. أثارت هذه القدرة إدانة واسعة النطاق وأثارت أسئلة أخلاقية وقانونية خطيرة حول مسؤولية مطوري الذكاء الاصطناعي لمنع إساءة استخدام تقنياتهم.

قبل حظر إندونيسيا، واجه إيلون ماسك ضغوطًا متزايدة من عدة دول فيما يتعلق بقدرات Grok على التزييف العميق. على سبيل المثال، حثت المملكة المتحدة X، تويتر سابقًا، على معالجة انتشار صور التزييف العميق الحميمة التي تم إنشاؤها باستخدام Grok. كما أشار الاتحاد الأوروبي إلى حالات "تزييفات عميقة مروعة تشبه الأطفال" تم إنشاؤها بواسطة برنامج الدردشة الآلي بالذكاء الاصطناعي. دفعت هذه الحوادث Grok إلى تنفيذ قيود على ميزات إنشاء الصور الخاصة به في محاولة للتخفيف من المشكلة.

يؤكد الإجراء الذي اتخذته الحكومة الإندونيسية على الحاجة الملحة المتزايدة إلى أطر تنظيمية لمعالجة التحديات التي تفرضها تقنيات الذكاء الاصطناعي سريعة التقدم. مع ازدياد تطور نماذج الذكاء الاصطناعي وإمكانية الوصول إليها، يتزايد احتمال إساءة استخدامها، مما يستلزم اتخاذ تدابير استباقية لحماية الأفراد والمجتمع من العواقب الضارة لهذه التقنيات. لا تزال الآثار طويلة المدى لهذا الحظر وتأثيره المحتمل على مقاربات الدول الأخرى لتنظيم الذكاء الاصطناعي غير واضحة. لم تحدد الحكومة الإندونيسية مدة الحظر أو الشروط التي يمكن بموجبها استعادة الوصول إلى Grok.