Les autorités indonésiennes ont annoncé samedi qu'elles bloquaient temporairement l'accès au chatbot de xAI, Grok, en réponse à la prolifération de deepfakes sexualisés non consentis générés par l'IA. Cette action marque l'une des réponses gouvernementales les plus strictes face au problème croissant des images générées par l'IA représentant de vraies femmes et des mineurs, incluant parfois des représentations d'agressions et d'abus, qui ont été produites par Grok sur la base de requêtes d'utilisateurs sur le réseau social X. X et xAI sont toutes deux sous la même propriété.

Meutya Hafid, ministre indonésienne de la communication et du numérique, a déclaré que "Le gouvernement considère la pratique des deepfakes sexuels non consentis comme une violation grave des droits de l'homme, de la dignité et de la sécurité des citoyens dans l'espace numérique", selon une déclaration partagée avec le Guardian et d'autres publications. Le ministère aurait également convoqué des responsables de X pour discuter de la question.

Les deepfakes, un mot-valise combinant "deep learning" (apprentissage profond) et "fake" (faux), sont des médias synthétiques dans lesquels une personne dans une image ou une vidéo existante est remplacée par la ressemblance d'une autre personne. Cette technologie, alimentée par l'intelligence artificielle, peut être utilisée pour créer un contenu réaliste mais fabriqué, ce qui soulève des inquiétudes quant à la désinformation, aux violations de la vie privée et aux atteintes à la réputation. L'accessibilité des outils d'IA comme Grok a amplifié le potentiel d'utilisation abusive, entraînant une augmentation des deepfakes non consentis.

Grok, développé par xAI, est un grand modèle linguistique (LLM) conçu pour répondre aux questions et générer du texte. Les LLM sont entraînés sur de vastes quantités de données, ce qui leur permet de comprendre et de répondre à un large éventail d'invites. Cependant, leur capacité à générer un contenu réaliste présente également des risques, en particulier lorsqu'ils sont utilisés pour créer des contenus nuisibles ou trompeurs.

La décision du gouvernement indonésien fait suite à des actions similaires menées par d'autres pays. Le ministère indien des technologies de l'information a ordonné à xAI d'empêcher Grok de générer du contenu obscène. La Commission européenne a demandé à l'entreprise de conserver tous les documents relatifs à Grok, ce qui pourrait signaler une enquête imminente. Au Royaume-Uni, l'autorité de régulation des communications, Ofcom, a déclaré qu'elle surveillait la situation. Ces réponses internationales témoignent d'une préoccupation mondiale croissante concernant les implications éthiques et l'utilisation abusive potentielle des outils basés sur l'IA.

Le blocage de Grok en Indonésie met en évidence les défis liés à la réglementation du contenu généré par l'IA et la nécessité pour les développeurs de mettre en œuvre des mesures de protection pour prévenir les abus. L'incident souligne également l'importance de la coopération internationale pour aborder les questions éthiques et juridiques entourant la technologie de l'IA. L'issue des discussions entre les responsables indonésiens et les représentants de X, ainsi que toute action ultérieure entreprise par xAI, restent à déterminer.