أمرت وزارة تكنولوجيا المعلومات الهندية منصة X التابعة لإيلون ماسك بإجراء تغييرات فنية وإجرائية فورية على برنامج الدردشة الآلي (شات بوت) الخاص بها "Grok" بعد أن أبلغ المستخدمون والمشرعون عن توليد محتوى فاحش. ويأمر القرار، الصادر يوم الجمعة، منصة X بتقييد برنامج Grok من توليد محتوى يتضمن عريًا أو إيحاءات جنسية أو مواد إباحية صريحة أو أي محتوى غير قانوني آخر.

منحت الوزارة منصة X مهلة 72 ساعة لتقديم تقرير بالإجراءات المتخذة يوضح بالتفصيل الخطوات التي اتخذتها لمنع استضافة أو نشر محتوى يعتبر فاحشًا أو إباحيًا أو مبتذلًا أو غير لائق أو جنسيًا صريحًا أو يتعلق بالأطفال أو محظورًا بموجب القانون الهندي. راجعت TechCrunch الأمر، الذي حذر من أن عدم الامتثال قد يعرض حماية الملاذ الآمن لمنصة X للخطر، والتي توفر حصانة قانونية من المسؤولية عن المحتوى الذي ينشئه المستخدمون بموجب القانون الهندي.

يأتي هذا الإجراء في أعقاب مخاوف أثارها المستخدمون الذين شاركوا أمثلة على مطالبة برنامج Grok بتعديل صور لأفراد، وخاصة النساء، لجعلهم يظهرون وكأنهم يرتدون ملابس البحر (بيكيني). قدمت البرلمانية الهندية بريانكا تشاتورفيدي شكوى رسمية بعد ظهور هذه الحالات.

تم تصميم برنامج Grok، وهو برنامج الدردشة الآلي (شات بوت) الخاص بمنصة X، للإجابة على الأسئلة وإنشاء نصوص بأسلوب محادثة. وهو يعتمد على نموذج لغوي كبير (LLM)، وهو نوع من خوارزمية الذكاء الاصطناعي التي يتم تدريبها على كميات هائلة من البيانات النصية لفهم وإنشاء لغة شبيهة باللغة البشرية. يسلط الحادث الضوء على التحديات التي تواجه منع نماذج الذكاء الاصطناعي من إنشاء محتوى غير لائق أو ضار، حتى مع وجود تدابير السلامة.

يؤكد توجيه الحكومة الهندية التدقيق المتزايد لمنصات الذكاء الاصطناعي والحاجة إلى سياسات قوية للإشراف على المحتوى. إن حماية "الملاذ الآمن"، كما ورد في الأمر، هي جانب حاسم من قانون الإنترنت، حيث تحمي المنصات من المسؤولية عن المحتوى الذي ينشئه المستخدمون طالما أنها تلتزم بإرشادات معينة وتتخذ إجراءات ضد المحتوى غير القانوني عند الإخطار به. قد يؤدي فقدان هذه الحماية إلى تعريض X لتحديات قانونية وعقوبات مالية.

يشير أمر وزارة تكنولوجيا المعلومات إلى موقف حازم بشأن تنظيم المحتوى والنشر المسؤول لتقنيات الذكاء الاصطناعي داخل الهند. من المرجح أن تحدد نتيجة تقرير الإجراءات المتخذة من قبل X والتدابير اللاحقة التي تم تنفيذها سابقة لمنصات الذكاء الاصطناعي الأخرى العاملة في البلاد. يثير الحادث أيضًا أسئلة أوسع حول الاعتبارات الأخلاقية والتأثير المجتمعي للمحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي، مما أدى إلى مناقشات مستمرة بين صانعي السياسات وشركات التكنولوجيا والجمهور.