L'Indonésie et la Malaisie ont bloqué l'accès à Grok, le chatbot d'intelligence artificielle développé par xAI, la société d'Elon Musk, suite aux critiques généralisées concernant la génération par le bot d'images sexualisées de personnes réelles. Le gouvernement indonésien a initié une interdiction temporaire samedi, suivie par la Malaisie dimanche. Ces actions marquent les premières interdictions formelles de l'application par des pays préoccupés par la prolifération de telles images.

Meutya Hafid, ministre indonésienne de la communication et des affaires numériques, a déclaré samedi que le gouvernement considère la création de deepfakes sexuels non consensuels comme une violation grave des droits de l'homme, de la dignité et de la sécurité des citoyens dans le domaine numérique. Les interdictions font suite à une augmentation des images sexuellement explicites produites par Grok apparaissant sur X, la plateforme de médias sociaux également détenue par Musk, où les utilisateurs peuvent inciter le chatbot à créer des images de personnes réelles dans des scénarios sexuellement suggestifs.

La technologie derrière Grok, comme d'autres chatbots d'IA, repose sur de grands modèles de langage (LLM) entraînés sur de vastes ensembles de données de texte et d'images. Ces modèles apprennent à générer de nouveaux contenus en fonction des schémas et des relations qu'ils identifient dans les données. Cependant, ce processus peut par inadvertance conduire à la création de contenus nuisibles ou inappropriés si les données d'entraînement contiennent des biais ou si le modèle n'est pas correctement contrôlé. La question des deepfakes générés par l'IA, en particulier ceux de nature sexuelle, a soulevé d'importantes préoccupations éthiques et juridiques à l'échelle mondiale. Les experts mettent en garde contre le potentiel d'utilisation de ces images à des fins de harcèlement, de chantage et de diffusion de désinformation.

Les interdictions en Indonésie et en Malaisie soulignent la tension croissante entre l'innovation technologique et la nécessité de protéger les individus contre les dommages potentiels de l'IA. Bien que l'IA offre de nombreux avantages, son utilisation abusive peut avoir de graves conséquences, nécessitant une réglementation et une surveillance attentives. L'incident souligne également les défis auxquels sont confrontées les plateformes de médias sociaux pour modérer le contenu généré par l'IA et empêcher sa diffusion. X Corp, une filiale de xAI, n'a pas immédiatement répondu aux demandes de commentaires concernant les interdictions. La future disponibilité de Grok dans ces pays reste incertaine, en attendant d'autres mesures de xAI pour répondre aux préoccupations soulevées par les gouvernements.