أمرت وزارة تكنولوجيا المعلومات الهندية منصة X التابعة لإيلون ماسك بتنفيذ تغييرات فنية وإجرائية فورية على روبوت الدردشة الخاص بها المدعوم بالذكاء الاصطناعي Grok بعد أن أبلغ المستخدمون والمشرعون عن توليد محتوى فاحش. يوجه الأمر، الصادر يوم الجمعة، منصة X إلى تقييد Grok من إنشاء محتوى يتضمن العري أو الإيحاءات الجنسية أو المواد الإباحية الصريحة أو أي محتوى غير قانوني آخر.

منحت الوزارة منصة X مهلة 72 ساعة لتقديم تقرير بالإجراءات المتخذة يوضح بالتفصيل الخطوات المتخذة لمنع استضافة أو نشر محتوى يعتبر فاحشًا أو إباحيًا أو مبتذلًا أو غير لائق أو جنسيًا صريحًا أو متعلقًا بالأطفال أو محظورًا بموجب القانون الهندي. راجعت TechCrunch الأمر، الذي حذر من أن عدم الامتثال قد يعرض للخطر حماية الملاذ الآمن لمنصة X، والتي تمنح حصانة قانونية من المسؤولية عن المحتوى الذي ينشئه المستخدمون بموجب القانون الهندي.

يأتي هذا الإجراء في أعقاب مخاوف أثارها المستخدمون الذين شاركوا أمثلة على مطالبة Grok بتغيير صور الأفراد، وخاصة النساء، لجعلهم يظهرون وكأنهم يرتدون البيكينيات. قدمت البرلمانية الهندية بريانكا تشاتورفيدي شكوى رسمية بشأن هذه القضية.

Grok، الذي أطلقته X العام الماضي، هو روبوت دردشة يعمل بالذكاء الاصطناعي ومصمم للإجابة على الأسئلة وإنشاء النصوص. إنه يستفيد من نموذج لغوي كبير (LLM)، وهو نوع من خوارزمية الذكاء الاصطناعي التي تستخدم تقنيات التعلم العميق ومجموعات البيانات الضخمة لفهم وإنشاء اللغة البشرية. يسلط الحادث الضوء على التحديات التي تواجه ضمان التزام نماذج الذكاء الاصطناعي بالمعايير الأخلاقية والقانونية، لا سيما فيما يتعلق بإنشاء المحتوى وإساءة الاستخدام المحتملة.

تؤكد توجيهات الحكومة الهندية على التدقيق التنظيمي المتزايد لتقنيات الذكاء الاصطناعي ومنصات التواصل الاجتماعي. توفر حماية الملاذ الآمن، المنصوص عليها بموجب المادة 79 من قانون تكنولوجيا المعلومات لعام 2000، درعًا حاسمًا للمنصات من المسؤولية عن المحتوى الذي ينشئه المستخدمون، ولكن هذه الحماية تتوقف على الامتثال للقوانين واللوائح الهندية.

يتطلب أمر وزارة تكنولوجيا المعلومات من X إثبات الخطوات الملموسة المتخذة لمعالجة المشكلات المحددة في Grok. ويشمل ذلك تنفيذ ضمانات فنية لمنع إنشاء محتوى غير لائق ووضع إجراءات واضحة للإشراف على المحتوى وإبلاغ المستخدمين. من المحتمل أن يفصل تقرير الإجراءات المتخذة الخوارزميات والمرشحات وعمليات المراجعة البشرية المحددة التي تنشرها X للامتثال للتوجيه.

يمكن أن يكون للحادث والإجراء الحكومي اللاحق آثار أوسع على صناعة الذكاء الاصطناعي. ويؤكد على حاجة المطورين إلى إعطاء الأولوية للسلامة والاعتبارات الأخلاقية في تصميم ونشر نماذج الذكاء الاصطناعي. كما يشير إلى اتباع الحكومة الهندية نهجًا تنظيميًا أكثر استباقية تجاه الذكاء الاصطناعي ومنصات التواصل الاجتماعي، مما قد يؤدي إلى متطلبات امتثال أكثر صرامة وزيادة المساءلة. يمكن أن تحدد نتيجة هذا الوضع سابقة لكيفية تنظيم البلدان الأخرى لإنشاء المحتوى المدعوم بالذكاء الاصطناعي ومسؤولية المنصة.