L'Indonésie a bloqué l'accès au chatbot Grok d'Elon Musk, invoquant des préoccupations quant au potentiel de l'IA à générer des images deepfake à caractère sexuel explicite et non consensuelles. Le ministre de la communication et des affaires numériques du pays a annoncé l'interdiction temporaire samedi, déclarant que la création et la distribution de tels deepfakes constituaient une grave violation des droits de l'homme, de la dignité et de la sécurité des citoyens dans le domaine numérique.

Cette décision fait de l'Indonésie le premier pays à restreindre publiquement l'accès à Grok en raison du problème des deepfakes. La ministre, Meutya H, a souligné l'engagement du gouvernement à protéger les femmes, les enfants et le grand public contre les dangers associés au contenu pornographique généré par l'IA. Le mécanisme spécifique par lequel Grok permettait la création de ces images impliquait d'autoriser les utilisateurs à modifier des images existantes en ligne, y compris la suppression des vêtements.

Les deepfakes, un mot-valise de "deep learning" (apprentissage profond) et "fake" (faux), sont des médias synthétiques dans lesquels une personne dans une image ou une vidéo existante est remplacée par la ressemblance de quelqu'un d'autre à l'aide de l'intelligence artificielle. Cette technologie, bien que possédant des applications légitimes dans des domaines tels que le divertissement et l'éducation, a soulevé d'importantes préoccupations éthiques et juridiques en raison de son potentiel de mauvaise utilisation, notamment la création de contenu diffamatoire, la diffusion de désinformation et la production de pornographie non consensuelle.

Le chatbot Grok, développé par la société d'IA de Musk, xAI, avait déjà fait l'objet d'un examen minutieux et de limitations concernant ses capacités de génération d'images à la suite d'une vague de critiques liées aux deepfakes. D'autres pays, dont le Royaume-Uni et des membres de l'Union européenne, ont également exprimé des préoccupations et fait pression sur X, anciennement Twitter, pour qu'il s'attaque au problème des images deepfake intimes générées par Grok. L'UE, en particulier, a signalé des cas de "deepfakes enfantins épouvantables" produits par l'IA.

L'action du gouvernement indonésien souligne le défi mondial croissant de la réglementation des technologies d'IA afin d'atténuer les dommages potentiels tout en favorisant l'innovation. L'incident souligne la nécessité pour les développeurs de mettre en œuvre des garanties solides pour empêcher l'utilisation abusive des outils d'IA et pour les gouvernements d'établir des cadres juridiques clairs pour traiter les implications éthiques et sociétales des deepfakes. L'interdiction reste en vigueur pendant que les autorités indonésiennes évaluent les mesures prises par xAI pour empêcher la génération et la diffusion de contenu préjudiciable. Les développements futurs impliqueront probablement des discussions entre les responsables indonésiens et xAI concernant les solutions et les garanties potentielles qui pourraient permettre à Grok de fonctionner dans le pays tout en respectant les lois et les normes éthiques locales.