Les autorités indonésiennes et malaisiennes ont temporairement bloqué l'accès au chatbot de xAI, Grok, suite à des préoccupations concernant la génération de deepfakes sexualisés non consentis. Ces actions représentent les réponses gouvernementales les plus énergiques face à la prolifération d'images générées par l'IA, représentant souvent de vraies femmes et des mineurs, et incluant parfois du contenu violent, produites par Grok en réponse aux requêtes des utilisateurs sur le réseau social X. X et xAI font partie de la même entreprise.

La ministre indonésienne de la communication et du numérique, Meutya Hafid, a déclaré que le gouvernement considère la création de deepfakes sexuels non consentis comme une violation grave des droits de l'homme, de la dignité et de la sécurité des citoyens dans le domaine numérique. Sa déclaration a été partagée avec le Guardian et d'autres organes de presse samedi. Le ministère indonésien aurait également convoqué des responsables de X pour discuter de la question. Le New York Times a rapporté que le gouvernement malaisien avait annoncé une interdiction similaire dimanche.

Les deepfakes, un mot-valise combinant "deep learning" (apprentissage profond) et "fake" (faux), sont des médias synthétiques dans lesquels une personne dans une image ou une vidéo existante est remplacée par la ressemblance d'une autre personne. Cette technologie exploite l'intelligence artificielle, en particulier les techniques d'apprentissage profond, pour créer un contenu très réaliste, mais fabriqué. L'accessibilité et la sophistication croissante de la technologie deepfake ont soulevé d'importantes préoccupations éthiques et juridiques, notamment en ce qui concerne le consentement, la vie privée et le potentiel d'utilisation abusive dans la création de contenu diffamatoire ou préjudiciable.

Les interdictions en Indonésie et en Malaisie font suite à d'autres actions gouvernementales visant à lutter contre le problème du contenu obscène généré par l'IA. Le ministère indien de l'informatique a ordonné à xAI de mettre en œuvre des mesures empêchant Grok de générer de tels contenus. La Commission européenne a également demandé à xAI de conserver tous les documents relatifs à Grok, ouvrant potentiellement la voie à une enquête formelle.

L'impact de ces actions gouvernementales sur l'industrie reste à déterminer, mais elles signalent une volonté croissante des organismes de réglementation d'intervenir dans le développement et le déploiement de technologies d'IA jugées nuisibles ou contraires à l'éthique. Grok, le chatbot phare de xAI, est conçu pour répondre aux questions et fournir des informations de manière conversationnelle. Son intégration avec X permet aux utilisateurs d'accéder au chatbot directement depuis la plateforme de médias sociaux. Les interdictions temporaires en Indonésie et en Malaisie affecteront probablement la base d'utilisateurs de xAI et pourraient influencer le développement de politiques de modération du contenu pour les plateformes basées sur l'IA.

La situation actuelle implique des discussions en cours entre les représentants du gouvernement et de xAI. Les prochaines étapes impliqueront probablement la mise en œuvre par xAI de filtres de contenu et de mécanismes de modération plus stricts pour empêcher la génération de contenu inapproprié. Les gouvernements indonésien et malaisien réévalueront probablement leurs interdictions en fonction de l'efficacité de ces mesures.