حظرت إندونيسيا الوصول إلى روبوت الدردشة Grok التابع لإيلون ماسك، مشيرة إلى مخاوف بشأن قدرة الذكاء الاصطناعي على إنشاء صور التزييف العميق الجنسية الصريحة وغير التوافقية. وأعلن وزير الاتصالات والشؤون الرقمية في البلاد عن الحظر المؤقت يوم السبت، مشيراً إلى أن إنشاء وتوزيع مثل هذه التزييفات العميقة يشكل انتهاكاً خطيراً لحقوق الإنسان والكرامة وأمن المواطنين في العالم الرقمي.

وبهذا القرار، أصبحت إندونيسيا أول دولة تقيد علناً الوصول إلى Grok بسبب قضية التزييف العميق. وأكدت الوزيرة، موتيا إتش، التزام الحكومة بحماية النساء والأطفال وعامة الناس من الأخطار المرتبطة بالمحتوى الإباحي الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي. وتضمنت الآلية المحددة التي مكنت Grok من إنشاء هذه الصور السماح للمستخدمين بتغيير الصور الموجودة عبر الإنترنت، بما في ذلك إزالة الملابس.

التزييفات العميقة، وهي كلمة مركبة من "التعلم العميق" و "التزييف"، هي وسائط اصطناعية يتم فيها استبدال شخص في صورة أو مقطع فيديو موجود بشخص آخر باستخدام الذكاء الاصطناعي. هذه التكنولوجيا، على الرغم من امتلاكها تطبيقات مشروعة في مجالات مثل الترفيه والتعليم، أثارت مخاوف أخلاقية وقانونية كبيرة بسبب إمكانية إساءة استخدامها، بما في ذلك إنشاء محتوى تشهيري، ونشر معلومات مضللة، وإنتاج مواد إباحية غير توافقية.

واجه روبوت الدردشة Grok، الذي طورته شركة الذكاء الاصطناعي xAI التابعة لماسك، في السابق تدقيقاً وقيوداً فيما يتعلق بقدراته على إنشاء الصور في أعقاب موجة من الانتقادات المتعلقة بالتزييفات العميقة. كما أعربت دول أخرى، بما في ذلك المملكة المتحدة وأعضاء الاتحاد الأوروبي، عن مخاوفها وضغطت على X، تويتر سابقاً، لمعالجة قضية صور التزييف العميق الحميمة التي تم إنشاؤها بواسطة Grok. على وجه الخصوص، أشار الاتحاد الأوروبي إلى حالات "تزييفات عميقة مروعة شبيهة بالأطفال" أنتجها الذكاء الاصطناعي.

يسلط الإجراء الذي اتخذته الحكومة الإندونيسية الضوء على التحدي العالمي المتزايد المتمثل في تنظيم تقنيات الذكاء الاصطناعي للتخفيف من الأضرار المحتملة مع تعزيز الابتكار. ويؤكد الحادث على حاجة المطورين إلى تنفيذ ضمانات قوية لمنع إساءة استخدام أدوات الذكاء الاصطناعي وحاجة الحكومات إلى وضع أطر قانونية واضحة لمعالجة الآثار الأخلاقية والمجتمعية للتزييفات العميقة. ولا يزال الحظر سارياً بينما تقوم السلطات الإندونيسية بتقييم تدابير xAI لمنع إنشاء ونشر المحتوى الضار. من المحتمل أن تتضمن التطورات المستقبلية مناقشات بين المسؤولين الإندونيسيين و xAI بشأن الحلول والضمانات المحتملة التي يمكن أن تسمح لـ Grok بالعمل داخل البلاد مع الالتزام بالقوانين والمعايير الأخلاقية المحلية.