أمرت وزارة تكنولوجيا المعلومات الهندية منصة التواصل الاجتماعي X التابعة لإيلون ماسك بتنفيذ تغييرات فنية وإجرائية فورية على برنامج الدردشة الآلي المدعوم بالذكاء الاصطناعي Grok، بعد أن أنتجت الأداة محتوى فاحشًا، بما في ذلك صور معدلة بالذكاء الاصطناعي لنساء. ويوجه الأمر، الصادر يوم الجمعة، X إلى تقييد Grok من إنشاء محتوى يتضمن عريًا أو إيحاءات جنسية أو مواد إباحية صريحة أو أي محتوى آخر غير قانوني.

منحت الوزارة X مهلة 72 ساعة لتقديم تقرير عن الإجراءات المتخذة يوضح بالتفصيل الخطوات التي اتخذتها لمنع استضافة أو نشر محتوى يعتبر فاحشًا أو إباحيًا أو مبتذلًا أو غير لائق أو جنسيًا صريحًا أو متعلقًا بالأطفال أو محظورًا بموجب القانون الهندي. راجعت TechCrunch الأمر، الذي حذر من أن عدم الامتثال قد يعرض للخطر حماية الملاذ الآمن لـ X، والتي توفر حصانة قانونية من المسؤولية عن المحتوى الذي ينشئه المستخدمون بموجب القانون الهندي.

يأتي هذا الإجراء في أعقاب المخاوف التي أثارها المستخدمون الذين شاركوا أمثلة على مطالبة Grok بتعديل صور لأفراد، وخاصة النساء، لجعلهم يظهرون وهم يرتدون البيكيني. قدمت البرلمانية الهندية بريانكا تشاتورفيدي شكوى رسمية بعد ظهور هذه الحالات.

تم تصميم Grok، برنامج الدردشة الآلي المدعوم بالذكاء الاصطناعي الخاص بـ X، للإجابة على الأسئلة وإنشاء نصوص بطريقة محادثة. إنه يستفيد من نموذج لغوي كبير (LLM)، وهو نوع من خوارزمية الذكاء الاصطناعي المدربة على كميات هائلة من البيانات النصية لفهم وإنشاء نص شبيه بالنص البشري. يسلط الحادث الضوء على التحديات التي تواجه التحكم في مخرجات نماذج LLM، والتي يمكن أن تنتج أحيانًا محتوى غير مقصود أو ضار.

يؤكد توجيه الحكومة الهندية على التدقيق المتزايد للمحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي ومسؤوليات المنصات التي تنشر مثل هذه التقنيات. تحمي حماية الملاذ الآمن، المنصوص عليها في المادة 79 من قانون تكنولوجيا المعلومات الهندي، الوسطاء مثل X من المسؤولية عن المحتوى الذي ينشئه المستخدمون، شريطة أن يلتزموا بإرشادات معينة ويعالجوا المحتوى غير القانوني على الفور عند الإخطار به.

يشير أمر وزارة تكنولوجيا المعلومات إلى تحول محتمل في المشهد التنظيمي لمنصات الذكاء الاصطناعي في الهند. تدرس الحكومة بنشاط لوائح جديدة لمعالجة التحديات التي يفرضها الذكاء الاصطناعي، بما في ذلك القضايا المتعلقة بالتحيز والمعلومات المضللة والمحتوى الضار. يمكن أن تحدد نتيجة هذا الوضع سابقة لكيفية تنظيم منصات الذكاء الاصطناعي في الهند، ويمكن أن تؤثر على لوائح مماثلة في بلدان أخرى. لم تعلق X علنًا بعد على الأمر. ستتم مراقبة استجابة الشركة والإجراءات التي تتخذها لمعالجة المخاوف التي أثارتها الحكومة الهندية عن كثب من قبل صناعة التكنولوجيا وصناع السياسات على حد سواء.