أمرت وزارة تكنولوجيا المعلومات الهندية شركة X التابعة لإيلون ماسك بتنفيذ تغييرات فنية وإجرائية فورية على برنامج الدردشة الآلي الخاص بها Grok بعد أن أنتجت المنصة محتوى فاحشًا، بما في ذلك صورًا معدلة بالذكاء الاصطناعي لنساء. يوجه الأمر، الصادر يوم الجمعة، شركة X إلى تقييد Grok من إنشاء محتوى يتضمن عُريًا أو إيحاءات جنسية أو مواد إباحية صريحة أو أي محتوى غير قانوني.

منحت الوزارة شركة X مهلة 72 ساعة لتقديم تقرير عن الإجراءات المتخذة يوضح بالتفصيل الخطوات التي اتخذتها لمنع استضافة أو نشر محتوى يعتبر فاحشًا أو إباحيًا أو مبتذلًا أو غير لائق أو جنسيًا صريحًا أو متعلقًا بالأطفال أو محظورًا بموجب القانون الهندي. راجعت TechCrunch الأمر، الذي حذر من أن عدم الامتثال قد يعرض للخطر حماية الملاذ الآمن لشركة X، والذي يوفر حصانة قانونية من المسؤولية عن المحتوى الذي ينشئه المستخدمون بموجب القانون الهندي.

يأتي هذا الإجراء في أعقاب مخاوف أثارها مستخدمون شاركوا أمثلة على مطالبة Grok بتعديل صور لأفراد، وخاصة النساء، لجعلهم يظهرون وهم يرتدون البيكيني. قدمت البرلمانية الهندية بريانكا تشاتورفيدي شكوى رسمية بعد ظهور هذه الحالات.

Grok، الذي طورته شركة xAI للذكاء الاصطناعي التابعة لماسك، هو نموذج لغوي كبير (LLM) مصمم للإجابة على الأسئلة وإنشاء النصوص. يتم تدريب النماذج اللغوية الكبيرة مثل Grok على مجموعات بيانات ضخمة، ويتم إنشاء مخرجاتها بناءً على الأنماط المستفادة من هذه البيانات. يتمثل التحدي الرئيسي في تطوير هذه النماذج في ضمان عدم إنشائها محتوى ضار أو غير لائق. غالبًا ما يتضمن ذلك تنفيذ ضمانات مثل مرشحات المحتوى وسياسات الإشراف.

تسلط توجيهات الحكومة الهندية الضوء على التدقيق التنظيمي المتزايد المحيط بالمحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي ومسؤولية شركات التكنولوجيا عن منع إساءة استخدام هذه التقنيات. يعد مفهوم "الملاذ الآمن" أمرًا بالغ الأهمية لمنصات مثل X، لأنه يحميها من تحمل المسؤولية عن المحتوى الذي ينشره مستخدموها. ومع ذلك، فإن هذه الحماية مشروطة باتخاذ المنصة خطوات معقولة لمعالجة المحتوى غير القانوني أو الضار.

يسلط الحادث الضوء أيضًا على إمكانية إساءة استخدام أدوات الذكاء الاصطناعي لأغراض خبيثة، مثل إنشاء التزييف العميق أو إنشاء محتوى جنسي صريح دون موافقة. يعد الأمر الصادر عن وزارة تكنولوجيا المعلومات الهندية بمثابة تحذير لشركات التكنولوجيا الأخرى التي تطور نماذج الذكاء الاصطناعي، مع التأكيد على الحاجة إلى تدابير سلامة قوية وإشراف استباقي على المحتوى.

لم تعلق X علنًا بعد على الأمر. ستتم مراقبة استجابة الشركة والإجراءات التي تتخذها لمعالجة المخاوف التي أثارتها الحكومة الهندية عن كثب من قبل صناعة التكنولوجيا والجهات التنظيمية في جميع أنحاء العالم. يمكن أن تحدد النتيجة سابقة لكيفية تنظيم المحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي في ولايات قضائية أخرى.