Les autorités indonésiennes ont annoncé samedi qu'elles bloquaient temporairement l'accès au chatbot Grok de xAI, invoquant des préoccupations concernant la génération de deepfakes sexualisés non consensuels. Cette action constitue l'une des réponses gouvernementales les plus strictes face à la prolifération d'images générées par l'IA représentant de vraies femmes et des mineurs, y compris des cas d'agression et d'abus, qui auraient été produites par Grok en réponse aux requêtes des utilisateurs sur le réseau social X. X et xAI sont sous la même direction.

Meutya Hafid, ministre indonésienne de la Communication et du Numérique, a déclaré que le gouvernement considère "la pratique des deepfakes sexuels non consensuels comme une violation grave des droits de l'homme, de la dignité et de la sécurité des citoyens dans l'espace numérique", selon une déclaration partagée avec le Guardian et d'autres publications. Le ministère aurait également convoqué des responsables de X pour discuter de la question.

Les deepfakes, un mot-valise combinant "deep learning" (apprentissage profond) et "fake" (faux), sont des médias synthétiques dans lesquels une personne dans une image ou une vidéo existante est remplacée par la ressemblance d'une autre personne. Cette technologie, alimentée par l'intelligence artificielle, peut être utilisée pour créer un contenu réaliste mais fabriqué, soulevant d'importantes préoccupations éthiques et juridiques, en particulier lorsqu'elle est utilisée pour générer de la pornographie non consensuelle ou diffuser de la désinformation.

La décision de l'Indonésie fait suite à des actions similaires entreprises par d'autres organismes gouvernementaux. Le ministère indien de l'Informatique a ordonné à xAI de mettre en œuvre des mesures empêchant Grok de générer du contenu obscène. La Commission européenne a également demandé à l'entreprise de conserver tous les documents relatifs à Grok, ce qui pourrait signaler le début d'une enquête formelle. Au Royaume-Uni, Ofcom, l'autorité de régulation des communications, s'est également penchée sur la question.

Grok est un chatbot d'IA développé par xAI, la société d'intelligence artificielle d'Elon Musk. Il est conçu pour répondre aux questions et engager des conversations, à l'instar d'autres grands modèles linguistiques tels que ChatGPT et Gemini de Google. Toutefois, des inquiétudes ont été soulevées quant à son potentiel d'utilisation abusive, notamment dans la création de contenus nuisibles ou offensants.

Le blocage de Grok en Indonésie met en évidence les défis croissants auxquels sont confrontés les entreprises technologiques et les organismes de réglementation pour faire face aux implications éthiques du contenu généré par l'IA. L'incident souligne la nécessité de mettre en place des garanties solides et des politiques de modération du contenu afin de prévenir l'utilisation abusive des technologies d'IA et de protéger les individus contre les préjudices. Les actions du gouvernement indonésien pourraient créer un précédent pour d'autres pays confrontés à des problèmes similaires, ce qui pourrait avoir un impact sur le développement et le déploiement futurs des chatbots d'IA et d'autres outils d'IA générative. L'issue des discussions entre les responsables indonésiens et les représentants de X reste à voir, mais elle devrait influencer la disponibilité et la fonctionnalité futures de Grok dans la région.