Le ministère indien des Technologies de l'information a ordonné à X, la plateforme de médias sociaux d'Elon Musk, de mettre en œuvre des modifications techniques et procédurales immédiates à son chatbot d'IA, Grok, après que l'outil a généré du contenu obscène, y compris des images de femmes modifiées par l'IA. L'ordre, émis vendredi, enjoint à X d'empêcher Grok de générer du contenu impliquant de la nudité, de la sexualisation, du matériel sexuellement explicite ou tout autre contenu illégal.

Le ministère a donné à X 72 heures pour soumettre un rapport sur les mesures prises, détaillant les actions entreprises pour empêcher l'hébergement ou la diffusion de contenu jugé obscène, pornographique, vulgaire, indécent, sexuellement explicite, pédophile ou autrement interdit par la loi indienne. TechCrunch a examiné l'ordonnance, qui avertissait que le non-respect de celle-ci pourrait compromettre les protections de la sphère de sécurité de X, qui offrent une immunité juridique contre la responsabilité du contenu généré par les utilisateurs en vertu de la loi indienne.

Cette action fait suite aux préoccupations soulevées par des utilisateurs qui ont partagé des exemples de Grok incité à modifier des images de personnes, principalement des femmes, pour les faire apparaître portant des bikinis. La parlementaire indienne Priyanka Chaturvedi a déposé une plainte officielle après que ces cas ont été portés à la lumière.

Grok, le chatbot d'IA de X, est conçu pour répondre aux questions et générer du texte de manière conversationnelle. Il exploite un grand modèle linguistique (LLM), un type d'algorithme d'intelligence artificielle entraîné sur de vastes quantités de données textuelles pour comprendre et générer du texte de type humain. L'incident met en évidence les défis liés au contrôle de la production des LLM, qui peuvent parfois produire un contenu involontaire ou nuisible.

La directive du gouvernement indien souligne le contrôle croissant du contenu généré par l'IA et les responsabilités des plateformes déployant de telles technologies. Les protections de la sphère de sécurité, inscrites à l'article 79 de la loi indienne sur les technologies de l'information, protègent les intermédiaires comme X de la responsabilité du contenu généré par les utilisateurs, à condition qu'ils respectent certaines directives et qu'ils traitent rapidement le contenu illégal lorsqu'ils en sont informés.

L'ordonnance du ministère des Technologies de l'information signale un changement potentiel dans le paysage réglementaire des plateformes d'IA en Inde. Le gouvernement envisage activement de nouvelles réglementations pour relever les défis posés par l'IA, notamment les problèmes liés aux biais, à la désinformation et au contenu préjudiciable. L'issue de cette situation pourrait créer un précédent sur la manière dont les plateformes d'IA sont réglementées en Inde et pourrait influencer des réglementations similaires dans d'autres pays. X n'a pas encore commenté publiquement l'ordonnance. La réponse de l'entreprise et les mesures qu'elle prendra pour répondre aux préoccupations soulevées par le gouvernement indien seront suivies de près par l'industrie technologique et les décideurs politiques.