ماليزيا وإندونيسيا تحظران روبوت الدردشة Grok AI بسبب الصور الجنسية الإباحية العميقة
حظرت ماليزيا وإندونيسيا الوصول إلى Grok، روبوت الدردشة المدعوم بالذكاء الاصطناعي (AI) على منصة X التابعة لإيلون ماسك، بسبب مخاوف بشأن قدرته على إنشاء صور جنسية إباحية عميقة. وتعد دول جنوب شرق آسيا أول دولتين في العالم تحظران أداة الذكاء الاصطناعي، مشيرة إلى احتمال إساءة استخدامها في إنشاء صور إباحية وغير توافقية، خاصةً تلك التي تتضمن نساء وأطفالًا.
يأتي هذا القرار في أعقاب طفرة في الصور التي يتم إنشاؤها بواسطة الذكاء الاصطناعي على X، والتي غالبًا ما تصور نساء وقاصرات حقيقيات في سياقات جنسية وأحيانًا عنيفة، بتحريض من طلبات المستخدمين إلى Grok، وفقًا لموقع TechCrunch. يسمح Grok للمستخدمين بإنشاء صور، وقد تضمن الاستخدام الأخير تعديل صور لأشخاص حقيقيين لإظهارهم بملابس فاضحة.
صرحت وزيرة الاتصالات والرقمنة الإندونيسية، موتيا حفيظ، بأن الحكومة تعتبر ممارسة الصور الجنسية الإباحية العميقة غير التوافقية انتهاكًا خطيرًا لحقوق الإنسان والكرامة وأمن المواطنين في الفضاء الرقمي، وفقًا لبيان تم نشره مع صحيفة الغارديان ومنشورات أخرى. وبحسب ما ورد استدعت الوزارة أيضًا مسؤولي X لمناقشة الأمر.
تواصلت بي بي سي مع منصة Grok للتعليق. وكان إيلون ماسك قد صرح سابقًا بأن منتقدي منصته يبحثون عن "أي عذر للرقابة".
X و xAI جزء من نفس الشركة.
Discussion
Join the conversation
Be the first to comment