حظرت ماليزيا وإندونيسيا الوصول إلى Grok، وهو روبوت الدردشة بالذكاء الاصطناعي الذي طورته منصة X التابعة لإيلون ماسك، مشيرة إلى مخاوف بشأن قدرته على إنشاء صور التزييف العميق الجنسية الصريحة. وتمثل هذه الخطوة، التي أعلنت عنها وزارتا الاتصالات المعنيتان خلال عطلة نهاية الأسبوع، أول حالة تحظر فيها أي دولة أداة الذكاء الاصطناعي هذه.

وبحسب التقارير، فقد أسيء استخدام Grok، الذي يسمح للمستخدمين بإنشاء صور، لإنشاء صور التزييف العميق تصور أفرادًا حقيقيين في أوضاع فاضحة أو غير توافقية. وذكرت لجنة الاتصالات والوسائط المتعددة الماليزية يوم الأحد أنها أصدرت إشعارات إلى X في وقت سابق من هذا العام، تطلب فيها اتخاذ تدابير أكثر صرامة لمنع "إساءة الاستخدام المتكررة" لـ Grok. وأعربت كل من ماليزيا وإندونيسيا عن مخاوفهما من إمكانية استغلال الذكاء الاصطناعي لإنتاج صور إباحية، بما في ذلك تلك التي تتضمن نساء وأطفالًا.

تستخدم صور التزييف العميق، وهي نتاج تقنيات الذكاء الاصطناعي المتقدمة، خوارزميات متطورة لمعالجة أو إنشاء محتوى مرئي وسمعي، وغالبًا ما تطمس الخط الفاصل بين الواقع والتلفيق. تتعلم نماذج الذكاء الاصطناعي التوليدية، مثل النموذج الذي يشغل Grok، من مجموعات بيانات ضخمة من الصور والنصوص، مما يمكنها من إنشاء محتوى جديد يشبه إلى حد كبير البيانات التي تم تدريبها عليها. هذه القدرة، في حين أنها توفر إمكانات إبداعية، تثير أيضًا مخاوف أخلاقية بشأن سوء الاستخدام، لا سيما في إنشاء المواد الإباحية والمعلومات المضللة غير التوافقية.

تسلط عمليات الحظر في ماليزيا وإندونيسيا الضوء على التحديات التنظيمية المتزايدة التي تفرضها تقنيات الذكاء الاصطناعي سريعة التطور. وتصارع الحكومات في جميع أنحاء العالم مع كيفية الموازنة بين الابتكار والحاجة إلى حماية المواطنين من الأضرار المحتملة. ويثير الحادث أيضًا تساؤلات حول مسؤولية مطوري الذكاء الاصطناعي عن تنفيذ ضمانات تمنع إساءة استخدام أدواتهم.

أثار قرار حظر Grok جدلاً حول حرية التعبير والرقابة. في المملكة المتحدة، أشارت وزيرة التكنولوجيا ميشيل دونيلان إلى دعمها لحظر مماثل، مما أثار انتقادات من إيلون ماسك، الذي اتهم الحكومة بمحاولة قمع حرية التعبير. يؤكد النقاش على التفاعل المعقد بين التقدم التكنولوجي والاعتبارات الأخلاقية والقيم المجتمعية.

الوضع الحالي لـ Grok في ماليزيا وإندونيسيا هو أن الوصول إليه قد تم حظره. من المرجح أن تتضمن التطورات التالية مناقشات بين X والحكومتين المعنيتين لمعالجة المخاوف المثارة وربما تنفيذ تدابير لمنع إنشاء صور التزييف العميق الضارة. قد يحفز الحادث أيضًا اتخاذ إجراءات تنظيمية إضافية بشأن تقنيات الذكاء الاصطناعي في بلدان أخرى.