أمرت وزارة تكنولوجيا المعلومات الهندية شركة X التابعة لإيلون ماسك بتنفيذ تغييرات فنية وإجرائية فورية على برنامج الدردشة الآلي الخاص بها Grok بعد أن أنتجت المنصة محتوى فاحشًا، بما في ذلك صور معدلة بالذكاء الاصطناعي لنساء. يوجه الأمر، الصادر يوم الجمعة، شركة X بتقييد Grok من إنشاء محتوى يتضمن العري أو الإيحاءات الجنسية أو المواد الإباحية أو أي محتوى غير قانوني.

منحت الوزارة شركة X مهلة 72 ساعة لتقديم تقرير بالإجراءات المتخذة يوضح بالتفصيل الخطوات المتخذة لمنع استضافة أو نشر محتوى يعتبر فاحشًا أو إباحيًا أو مبتذلًا أو غير لائق أو جنسيًا صريحًا أو متعلقًا بالأطفال أو محظورًا بموجب القانون الهندي. راجعت TechCrunch الأمر، الذي حذر من أن عدم الامتثال قد يعرض للخطر حماية الملاذ الآمن لشركة X، والحصانة القانونية من المسؤولية عن المحتوى الذي ينشئه المستخدمون بموجب القانون الهندي.

يأتي هذا الإجراء في أعقاب مخاوف أثارها المستخدمون الذين شاركوا أمثلة على مطالبة Grok بتعديل صور لأفراد، وخاصة النساء، لجعلهم يظهرون وهم يرتدون البيكيني. قدمت البرلمانية الهندية بريانكا تشاتورفيدي شكوى رسمية بعد ظهور هذه الحالات.

تم تصميم Grok، برنامج الدردشة الآلي الخاص بشركة X، للإجابة على الأسئلة وإنشاء نصوص بطريقة حوارية. وهو مبني على نموذج لغوي كبير (LLM)، وهو نوع من الذكاء الاصطناعي يستخدم تقنيات التعلم العميق لفهم وإنشاء نصوص شبيهة بالنصوص البشرية. يتم تدريب النماذج اللغوية الكبيرة على مجموعات بيانات ضخمة من النصوص والأكواد، مما يمكنها من أداء مجموعة متنوعة من المهام، بما في ذلك ترجمة اللغات وتلخيص النصوص وإنشاء المحتوى. ومع ذلك، فإن هذه التكنولوجيا عرضة لسوء الاستخدام، كما يتضح من إنشاء محتوى غير لائق في حالة Grok.

تسلط توجيهات الحكومة الهندية الضوء على المخاوف المتزايدة المحيطة بالتطوير والنشر المسؤولين لتقنيات الذكاء الاصطناعي. مع ازدياد تطور نماذج الذكاء الاصطناعي، يصبح ضمان التزامها بالمبادئ التوجيهية الأخلاقية والأطر القانونية أمرًا بالغ الأهمية. تؤكد حادثة Grok على تحديات منع الذكاء الاصطناعي من إنشاء محتوى ضار أو مسيء، حتى مع وجود ضمانات مدمجة.

يتطلب أمر وزارة تكنولوجيا المعلومات من شركة X تنفيذ تغييرات فنية وإجرائية. يمكن أن تتضمن التغييرات الفنية تحسين بيانات التدريب لنموذج الذكاء الاصطناعي لتصفية المحتوى غير اللائق وتنفيذ خوارزميات أكثر صرامة للإشراف على المحتوى. قد تتضمن التغييرات الإجرائية وضع مبادئ توجيهية أكثر وضوحًا لتفاعلات المستخدمين مع Grok وتوفير آليات للإبلاغ عن المحتوى المسيء.

قد يكون لنتائج هذا الوضع آثار أوسع على صناعة التكنولوجيا. إذا فشلت شركة X في معالجة المخاوف التي أثارتها الحكومة الهندية بشكل كاف، فقد تواجه عقوبات، بما في ذلك فقدان حماية الملاذ الآمن. قد يشكل هذا سابقة لتنظيم أكثر صرامة للمنصات التي تعمل بالذكاء الاصطناعي في الهند وربما في بلدان أخرى. لم تصدر شركة X بعد بيانًا عامًا بشأن الأمر. سيوفر تقرير الإجراءات المتخذة من قبل الشركة، والمقرر تقديمه في غضون 72 ساعة من الأمر، مزيدًا من التفاصيل حول الخطوات التي تتخذها للامتثال لتوجيهات الحكومة.