حظرت إندونيسيا وماليزيا الوصول إلى Grok، وهو روبوت الدردشة بالذكاء الاصطناعي الذي طورته xAI التابعة لإيلون ماسك، في أعقاب انتقادات واسعة النطاق بسبب قيام الروبوت بإنشاء صور جنسية لأفراد حقيقيين. بدأت الحكومة الإندونيسية حظرًا مؤقتًا يوم السبت، وتبعتها ماليزيا يوم الأحد. تمثل هذه الإجراءات أول حظر رسمي للتطبيق من قبل دول تشعر بالقلق إزاء انتشار هذه الصور.

صرحت ميوتيا حفيظ، وزيرة الاتصالات والشؤون الرقمية الإندونيسية، يوم السبت بأن الحكومة تعتبر إنشاء التزييفات العميقة الجنسية غير الرضائية انتهاكًا خطيرًا لحقوق الإنسان والكرامة وأمن المواطنين في العالم الرقمي. تأتي عمليات الحظر ردًا على طفرة في الصور الجنسية الصريحة التي أنتجها Grok والتي ظهرت على X، وهي منصة التواصل الاجتماعي التي يمتلكها أيضًا ماسك، حيث يمكن للمستخدمين مطالبة روبوت الدردشة بإنشاء صور لأشخاص حقيقيين في سيناريوهات موحية جنسيًا.

تعتمد التكنولوجيا الكامنة وراء Grok، مثل روبوتات الدردشة الأخرى التي تعمل بالذكاء الاصطناعي، على نماذج لغوية كبيرة (LLMs) تم تدريبها على مجموعات بيانات واسعة من النصوص والصور. تتعلم هذه النماذج إنشاء محتوى جديد بناءً على الأنماط والعلاقات التي تحددها داخل البيانات. ومع ذلك، يمكن أن تؤدي هذه العملية عن غير قصد إلى إنشاء محتوى ضار أو غير لائق إذا كانت بيانات التدريب تحتوي على تحيزات أو إذا لم يتم التحكم في النموذج بشكل صحيح. أثارت قضية التزييفات العميقة التي يتم إنشاؤها بواسطة الذكاء الاصطناعي، وخاصة تلك ذات الطبيعة الجنسية، مخاوف أخلاقية وقانونية كبيرة على مستوى العالم. يحذر الخبراء من احتمال استخدام هذه الصور في المضايقات والابتزاز ونشر المعلومات المضللة.

تسلط عمليات الحظر في إندونيسيا وماليزيا الضوء على التوتر المتزايد بين الابتكار التكنولوجي والحاجة إلى حماية الأفراد من الأضرار المحتملة للذكاء الاصطناعي. في حين أن الذكاء الاصطناعي يقدم فوائد عديدة، إلا أن إساءة استخدامه يمكن أن يكون لها عواقب وخيمة، مما يستلزم تنظيمًا وإشرافًا دقيقين. يسلط الحادث الضوء أيضًا على التحديات التي تواجهها منصات التواصل الاجتماعي في الإشراف على المحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي ومنع انتشاره. لم تستجب X Corp، وهي شركة تابعة لـ xAI، على الفور لطلبات التعليق بشأن عمليات الحظر. لا يزال مستقبل توفر Grok في هذه البلدان غير مؤكد، في انتظار اتخاذ xAI مزيدًا من الإجراءات لمعالجة المخاوف التي أثارتها الحكومات.