L'Indonésie a bloqué l'accès au chatbot Grok d'Elon Musk, invoquant des préoccupations quant à la capacité potentielle de l'IA à générer des images deepfake sexuellement explicites et non consensuelles. Le ministre de la Communication et des Affaires numériques du pays a annoncé l'interdiction temporaire samedi, déclarant que la création et la distribution de tels deepfakes constituaient une violation grave des droits de l'homme, de la dignité et de la sécurité des citoyens dans le domaine numérique.

Cette décision fait de l'Indonésie le premier pays à bloquer officiellement Grok en raison du problème des deepfakes. La ministre, Meutya H, a souligné la responsabilité du gouvernement de protéger les populations vulnérables, en particulier les femmes et les enfants, contre les effets néfastes des contenus pornographiques générés par l'IA. "Afin de protéger les femmes, les enfants et le public contre les risques de faux contenus pornographiques générés à l'aide de la technologie de l'intelligence artificielle, le gouvernement a temporairement bloqué l'accès à l'application Grok", a déclaré Meutya H.

Les deepfakes, un mot-valise de "deep learning" (apprentissage profond) et "fake" (faux), utilisent des techniques d'intelligence artificielle sophistiquées, en particulier des algorithmes d'apprentissage profond, pour créer des images, des vidéos et des enregistrements audio très réalistes mais fabriqués. Ces technologies permettent de manipuler des contenus existants ou de générer des médias entièrement synthétiques, ce qui rend souvent difficile la distinction entre le matériel authentique et le matériel fabriqué. La préoccupation concernant la technologie deepfake réside dans son potentiel de mauvaise utilisation, notamment la création de contenus diffamatoires, la diffusion de désinformation et, comme dans ce cas, la génération de pornographie non consensuelle.

L'interdiction fait suite à un examen international croissant des capacités de génération d'images de Grok. Des rapports récents ont mis en évidence des cas où des utilisateurs ont pu manipuler des images en ligne à l'aide de Grok pour supprimer des vêtements, ce qui a entraîné des représentations sexuellement explicites de personnes sans leur consentement. Cette capacité a suscité une condamnation généralisée et soulevé de sérieuses questions éthiques et juridiques quant à la responsabilité des développeurs d'IA de prévenir l'utilisation abusive de leurs technologies.

Avant l'interdiction de l'Indonésie, Elon Musk était confronté à une pression croissante de plusieurs pays concernant les capacités de deepfake de Grok. Le Royaume-Uni, par exemple, a exhorté X, anciennement Twitter, à lutter contre la prolifération d'images deepfake intimes générées à l'aide de Grok. L'Union européenne a également signalé des cas de "deepfakes épouvantables d'enfants" créés par le chatbot d'IA. Ces incidents ont incité Grok à mettre en œuvre des limitations sur ses fonctionnalités de génération d'images afin d'atténuer le problème.

La décision du gouvernement indonésien souligne l'urgence croissante de mettre en place des cadres réglementaires pour relever les défis posés par les technologies d'IA en évolution rapide. À mesure que les modèles d'IA deviennent plus sophistiqués et accessibles, le potentiel de mauvaise utilisation augmente, ce qui nécessite des mesures proactives pour protéger les individus et la société contre les conséquences néfastes de ces technologies. Les implications à long terme de cette interdiction et son influence potentielle sur les approches d'autres pays en matière de réglementation de l'IA restent à déterminer. Le gouvernement indonésien n'a pas précisé la durée de l'interdiction ni les conditions dans lesquelles l'accès à Grok pourrait être rétabli.