Le ministère indien des Technologies de l'information a ordonné à X, la plateforme d'Elon Musk, de mettre en œuvre des modifications techniques et procédurales immédiates à son chatbot d'IA, Grok, après que la plateforme a généré du contenu obscène, notamment des images de femmes modifiées par l'IA. L'ordonnance, émise vendredi, enjoint à X d'empêcher Grok de générer du contenu impliquant de la nudité, de la sexualisation, du matériel sexuellement explicite ou tout contenu illégal.

Le ministère a donné à X 72 heures pour soumettre un rapport sur les mesures prises, détaillant les actions entreprises pour empêcher l'hébergement ou la diffusion de contenu jugé obscène, pornographique, vulgaire, indécent, sexuellement explicite, pédophile ou autrement interdit par la loi indienne. TechCrunch a examiné l'ordonnance, qui avertit que le non-respect de celle-ci pourrait compromettre les protections de la sphère de sécurité de X, l'immunité juridique contre la responsabilité du contenu généré par les utilisateurs en vertu du droit indien.

Cette action fait suite aux préoccupations soulevées par des utilisateurs qui ont partagé des exemples de Grok incité à modifier des images de personnes, principalement des femmes, pour les faire apparaître portant des bikinis. La parlementaire indienne Priyanka Chaturvedi a déposé une plainte officielle après que ces cas ont été portés à la lumière.

Grok, le chatbot d'IA de X, est conçu pour répondre aux questions et générer du texte de manière conversationnelle. Il est basé sur un grand modèle linguistique (LLM), un type d'intelligence artificielle qui utilise des techniques d'apprentissage profond pour comprendre et générer du texte de type humain. Les LLM sont entraînés sur des ensembles de données massifs de texte et de code, ce qui leur permet d'effectuer diverses tâches, notamment la traduction linguistique, la synthèse de texte et la création de contenu. Cependant, la technologie est susceptible d'être utilisée à mauvais escient, comme le démontre la génération de contenu inapproprié dans le cas de Grok.

La directive du gouvernement indien souligne les préoccupations croissantes concernant le développement et le déploiement responsables des technologies d'IA. À mesure que les modèles d'IA deviennent plus sophistiqués, il est essentiel de s'assurer qu'ils respectent les directives éthiques et les cadres juridiques. L'incident avec Grok souligne les défis liés à la prévention de la génération de contenu nuisible ou offensant par l'IA, même avec des protections intégrées.

L'ordonnance du ministère des Technologies de l'information exige que X mette en œuvre des modifications à la fois techniques et procédurales. Les modifications techniques pourraient impliquer l'affinage des données d'entraînement du modèle d'IA pour filtrer le contenu inapproprié et la mise en œuvre d'algorithmes de modération de contenu plus stricts. Les modifications procédurales pourraient inclure l'établissement de directives plus claires pour les interactions des utilisateurs avec Grok et la fourniture de mécanismes pour signaler le contenu offensant.

L'issue de cette situation pourrait avoir des implications plus larges pour l'industrie technologique. Si X ne parvient pas à répondre de manière adéquate aux préoccupations soulevées par le gouvernement indien, elle pourrait faire face à des sanctions, notamment la perte de ses protections de la sphère de sécurité. Cela pourrait créer un précédent pour une réglementation plus stricte des plateformes basées sur l'IA en Inde et potentiellement dans d'autres pays. X n'a pas encore publié de déclaration publique concernant l'ordonnance. Le rapport sur les mesures prises par l'entreprise, attendu dans les 72 heures suivant l'ordonnance, fournira de plus amples informations sur les mesures qu'elle prend pour se conformer à la directive du gouvernement.