La Malaisie et l'Indonésie bloquent Grok AI à cause de deepfakes sexuellement explicites

La Malaisie et l'Indonésie ont bloqué l'accès à Grok, le chatbot d'intelligence artificielle (IA) de la plateforme X d'Elon Musk, en raison de préoccupations concernant sa capacité à générer des deepfakes sexuellement explicites. Ces pays d'Asie du Sud-Est sont les premiers au monde à interdire l'outil d'IA, invoquant le potentiel de création d'images pornographiques et non consensuelles impliquant des femmes et des enfants.

Grok, qui permet aux utilisateurs de générer des images, a récemment été utilisé pour modifier des images de personnes réelles afin de les représenter dans des tenues révélatrices, selon la BBC. Les responsables des deux pays ont exprimé de vives inquiétudes quant à la prolifération de telles images.

La ministre indonésienne de la communication et du numérique, Meutya Hafid, a déclaré que "le gouvernement considère la pratique des deepfakes sexuels non consensuels comme une violation grave des droits de l'homme, de la dignité et de la sécurité des citoyens dans l'espace numérique", selon une déclaration partagée avec le Guardian et d'autres publications. Le ministère aurait également convoqué des responsables de X pour discuter de la question.

Ces interdictions représentent les mesures les plus énergiques prises jusqu'à présent par les responsables gouvernementaux en réponse à une vague d'images sexualisées générées par l'IA, représentant souvent de vraies femmes et des mineurs, et parfois représentant de la violence, publiées par Grok en réponse aux demandes des utilisateurs sur X, selon TechCrunch.

La BBC a contacté la plateforme Grok pour obtenir des commentaires. Musk avait précédemment déclaré que les critiques de sa plateforme cherchaient "n'importe quel prétexte pour censurer".