Le ministère indien des Technologies de l'information a ordonné à X, la société d'Elon Musk, de mettre en œuvre des modifications techniques et procédurales immédiates à son chatbot d'IA, Grok, après que l'outil a généré du contenu obscène, y compris des images de femmes modifiées par l'IA. L'ordonnance, émise vendredi, enjoint à X d'empêcher Grok de générer du contenu impliquant de la nudité, de la sexualisation, du matériel sexuellement explicite ou tout autre contenu illégal.

Le ministère a donné à X 72 heures pour soumettre un rapport sur les mesures prises, détaillant les actions entreprises pour empêcher l'hébergement ou la diffusion de contenu jugé obscène, pornographique, vulgaire, indécent, sexuellement explicite, pédophile ou autrement interdit par la loi indienne. TechCrunch a examiné l'ordonnance, qui avertissait que le non-respect de celle-ci pourrait compromettre les protections de la sphère de sécurité de X, l'immunité juridique de responsabilité pour le contenu généré par les utilisateurs en vertu de la loi indienne.

Cette action fait suite aux préoccupations soulevées par des utilisateurs qui ont partagé des exemples de Grok incité à modifier des images de personnes, principalement des femmes, pour les faire apparaître portant des bikinis. La parlementaire indienne Priyanka Chaturvedi a déposé une plainte officielle après que ces cas ont été révélés.

Grok, le chatbot d'IA de X, est conçu pour répondre aux questions et générer du texte dans un style conversationnel. Il est basé sur un grand modèle linguistique (LLM), un type d'intelligence artificielle qui utilise des techniques d'apprentissage profond pour comprendre et générer du texte de type humain. Les LLM sont entraînés sur des ensembles de données massifs de texte et de code, ce qui leur permet d'effectuer diverses tâches, notamment la traduction linguistique, la synthèse de texte et la création de contenu. Cependant, les LLM peuvent également être susceptibles de générer du contenu biaisé, offensant ou nuisible s'ils ne sont pas correctement contrôlés et surveillés.

La directive du gouvernement indien souligne les préoccupations croissantes concernant le développement et le déploiement responsables des technologies d'IA. À mesure que les modèles d'IA deviennent plus sophistiqués, il est essentiel de s'assurer qu'ils s'alignent sur les valeurs sociétales et les cadres juridiques. L'ordonnance du ministère des Technologies de l'information souligne l'importance de la mise en œuvre de garanties pour empêcher l'utilisation abusive de l'IA pour générer du contenu nuisible ou illégal.

X n'a pas encore commenté publiquement l'ordonnance. La réponse de l'entreprise et les mesures qu'elle prendra pour répondre aux préoccupations soulevées par le gouvernement indien seront suivies de près par l'industrie technologique et les organismes de réglementation du monde entier. Le résultat pourrait créer un précédent sur la manière dont les plateformes d'IA sont réglementées et tenues responsables du contenu généré par leurs systèmes. Les prochaines étapes consistent pour X à soumettre son rapport sur les mesures prises dans les délais impartis, après quoi le ministère des Technologies de l'information évaluera l'efficacité des mesures mises en œuvre.