Les autorités indonésiennes ont annoncé samedi qu'elles bloquaient temporairement l'accès au chatbot Grok de xAI, invoquant des préoccupations concernant la génération de deepfakes sexualisés non consentis. Cette décision représente l'une des mesures gouvernementales les plus strictes prises en réponse à la prolifération d'images générées par l'IA, représentant souvent de vraies femmes et des mineurs, et montrant parfois des agressions et des abus, qui auraient été produites par Grok en réponse aux requêtes des utilisateurs sur le réseau social X. X et xAI sont toutes deux sous la même direction.

Meutya Hafid, ministre indonésienne de la Communication et du Numérique, a déclaré que "Le gouvernement considère la pratique des deepfakes sexuels non consentis comme une violation grave des droits de l'homme, de la dignité et de la sécurité des citoyens dans l'espace numérique", selon une déclaration partagée avec le Guardian et d'autres publications. Le ministère aurait également convoqué des responsables de X pour discuter de la question.

Dans ce contexte, les deepfakes désignent des médias générés par l'IA, souvent des vidéos ou des images, qui dépeignent de manière convaincante des individus faisant ou disant des choses qu'ils n'ont jamais faites. La technologie repose sur des algorithmes sophistiqués d'apprentissage automatique, en particulier l'apprentissage profond, pour manipuler et synthétiser le contenu visuel et audio. La préoccupation survient lorsque ces deepfakes sont créés sans consentement, en particulier lorsqu'ils sont sexualisés ou exploiteurs.

La mesure prise par le gouvernement indonésien fait suite à des préoccupations similaires soulevées par d'autres organismes internationaux. Le ministère indien de l'Informatique a ordonné à xAI de mettre en œuvre des mesures empêchant Grok de générer du contenu obscène. La Commission européenne a également demandé à l'entreprise de conserver tous les documents relatifs à Grok, ce qui pourrait signaler le début d'une enquête formelle. Au Royaume-Uni, l'autorité de régulation des communications, Ofcom, a déclaré qu'elle surveillait la situation.

Grok est une IA conversationnelle développée par xAI, la société d'intelligence artificielle d'Elon Musk. Elle est conçue pour répondre à des questions et générer du texte, à l'instar d'autres grands modèles linguistiques comme ChatGPT. Toutefois, des inquiétudes ont été soulevées quant à son utilisation abusive potentielle dans la création de contenus préjudiciables.

Le blocage de Grok en Indonésie met en évidence les défis croissants et les complexités réglementaires liés au contenu généré par l'IA. Les gouvernements du monde entier s'efforcent de trouver un équilibre entre l'innovation et la nécessité de protéger les individus contre les préjudices potentiels de cette technologie. La décision du gouvernement indonésien de bloquer Grok souligne le sérieux avec lequel il considère la question des deepfakes non consentis et son engagement à protéger ses citoyens dans le domaine numérique. L'issue de la réunion entre les responsables indonésiens et les représentants de X, ainsi que toute mesure ultérieure prise par xAI, détermineront probablement la future disponibilité de Grok en Indonésie.