La Malaisie et l'Indonésie bloquent le chatbot Grok AI en raison de deepfakes à caractère sexuel

La Malaisie et l'Indonésie ont bloqué l'accès à Grok, le chatbot d'intelligence artificielle (IA) de la plateforme X d'Elon Musk, en raison de préoccupations concernant sa capacité à générer des deepfakes à caractère sexuel. Ces pays d'Asie du Sud-Est sont les premiers au monde à interdire l'outil d'IA, invoquant un risque d'utilisation abusive pour créer des images pornographiques et non consensuelles, impliquant notamment des femmes et des enfants.

Cette décision fait suite à une recrudescence d'images générées par l'IA sur X, représentant souvent de vraies femmes et des mineurs dans des contextes sexualisés et parfois violents, suite à des demandes d'utilisateurs à Grok, selon TechCrunch. Grok permet aux utilisateurs de générer des images, et son utilisation récente a inclus la modification d'images de personnes réelles pour les montrer dans des tenues révélatrices.

La ministre indonésienne des communications et du numérique, Meutya Hafid, a déclaré que le gouvernement considère la pratique des deepfakes sexuels non consensuels comme une violation grave des droits de l'homme, de la dignité et de la sécurité des citoyens dans l'espace numérique, selon une déclaration partagée avec le Guardian et d'autres publications. Le ministère aurait également convoqué des responsables de X pour discuter de la question.

La BBC a contacté la plateforme Grok pour obtenir des commentaires. Elon Musk avait précédemment déclaré que les critiques de sa plateforme cherchent "n'importe quel prétexte pour faire de la censure".

X et xAI font partie de la même entreprise.