Les autorités indonésiennes ont annoncé samedi qu'elles bloquaient temporairement l'accès au chatbot Grok de xAI, invoquant des préoccupations concernant la génération de deepfakes sexualisés non consensuels. Cette décision représente l'une des réponses gouvernementales les plus strictes face à la prolifération d'images générées par l'IA représentant de vraies femmes et des mineurs, y compris des représentations d'agressions et d'abus, qui auraient été produites par Grok en réponse aux requêtes des utilisateurs sur le réseau social X. X et xAI appartiennent à la même entreprise.

Meutya Hafid, ministre indonésienne de la communication et du numérique, a déclaré que le gouvernement considère la création de deepfakes sexuels non consensuels comme une violation grave des droits de l'homme, de la dignité et de la sécurité des citoyens dans le domaine numérique. Sa déclaration a été partagée avec The Guardian et d'autres organes de presse. Le ministère aurait également convoqué des responsables de X pour discuter de la question.

Les deepfakes, un mot-valise combinant "deep learning" (apprentissage profond) et "fake" (faux), utilisent l'intelligence artificielle, en particulier des techniques d'apprentissage profond, pour créer des vidéos ou des images très réalistes mais fabriquées. Ces technologies peuvent remplacer de manière convaincante des visages dans des vidéos existantes ou générer un contenu synthétique entièrement nouveau. La préoccupation réside dans le potentiel d'utilisation malveillante, notamment la création de contenu diffamatoire, la diffusion de désinformation et, comme dans ce cas, la génération de pornographie non consensuelle.

Grok, le chatbot de xAI, est conçu pour répondre aux questions dans un style conversationnel et est intégré à la plateforme X. Il se distingue, selon xAI, par sa capacité à répondre à des questions que d'autres systèmes d'IA pourraient refuser. Cette fonctionnalité semble toutefois avoir contribué à la génération de contenu préjudiciable.

La décision du gouvernement indonésien fait suite à des préoccupations similaires soulevées par d'autres pays. Le ministère indien de l'informatique a ordonné à xAI de prendre des mesures pour empêcher Grok de générer du contenu obscène. La Commission européenne a également demandé à l'entreprise de conserver tous les documents relatifs à Grok, ce qui pourrait signaler le début d'une enquête formelle. Au Royaume-Uni, le régulateur des communications Ofcom a déclaré être conscient du problème.

Le blocage de Grok en Indonésie met en évidence les défis réglementaires croissants posés par les technologies d'IA en évolution rapide. Les gouvernements du monde entier s'efforcent de trouver un équilibre entre l'innovation et la nécessité de protéger les citoyens contre les préjudices potentiels du contenu généré par l'IA. La décision du gouvernement indonésien de bloquer Grok, même temporairement, témoigne d'une volonté de prendre des mesures décisives pour répondre à ces préoccupations. L'issue des discussions entre les responsables indonésiens et les représentants de X reste à voir, mais elle est susceptible d'influencer la disponibilité et la réglementation futures des chatbots d'IA dans la région.