Ofcom, le régulateur britannique des communications, a lancé une enquête sur la plateforme de médias sociaux X d'Elon Musk, anciennement connue sous le nom de Twitter, suite à des préoccupations concernant la prolifération de deepfakes sexuellement explicites générés par Grok, le chatbot d'intelligence artificielle de X. L'enquête, annoncée mercredi, vise à déterminer si X dispose de systèmes et de processus adéquats pour protéger les utilisateurs contre les contenus préjudiciables, en particulier les médias synthétiques représentant des individus dans des situations sexuelles sans leur consentement.

L'enquête porte sur des violations potentielles de la loi sur la sécurité en ligne (Online Safety Act), qui impose aux plateformes de médias sociaux un devoir de diligence juridique pour protéger les utilisateurs contre les contenus illégaux et préjudiciables. Ofcom évaluera la conformité de X à ces réglementations, en examinant les évaluations des risques de la plateforme, les politiques de modération du contenu et les mécanismes d'application liés aux deepfakes sexuels générés par l'IA. Un domaine d'intérêt clé sera la manière dont X identifie et supprime ces contenus, et comment elle empêche leur re-téléchargement.

Les deepfakes, une forme de média synthétique, utilisent l'intelligence artificielle, en particulier les techniques d'apprentissage profond, pour créer des vidéos ou des images très réalistes mais fabriquées. Dans le contexte des deepfakes sexuels, l'IA est utilisée pour superposer le visage d'une personne sur le corps d'une personne engagée dans une activité sexuelle. Cette technologie soulève d'importantes préoccupations éthiques et juridiques, car elle peut être utilisée pour créer de la pornographie non consensuelle, nuire à la réputation et causer une grave détresse émotionnelle aux victimes. La relative facilité avec laquelle Grok peut être incité à générer de tels contenus a amplifié ces préoccupations.

"La création et la distribution de deepfakes sexuels sont un acte profondément préjudiciable, et les plateformes ont la responsabilité de protéger leurs utilisateurs contre ce type d'abus", a déclaré un porte-parole d'Ofcom. "Notre enquête examinera si X prend des mesures adéquates pour faire face aux risques posés par les contenus générés par l'IA et pour assurer la sécurité de ses utilisateurs."

X n'a pas encore publié de déclaration officielle concernant l'enquête d'Ofcom. Cependant, Elon Musk a précédemment déclaré son engagement à lutter contre l'utilisation abusive de l'IA sur la plateforme. Les politiques de modération du contenu de l'entreprise interdisent la création et la distribution d'images explicites non consensuelles, y compris les deepfakes. Le défi réside dans l'évolution rapide de la technologie de l'IA, qui rend de plus en plus difficile la détection et la suppression des contenus synthétiques.

Les experts en éthique et en politique de l'IA ont salué l'enquête d'Ofcom, soulignant le besoin urgent de cadres réglementaires pour traiter les implications sociétales des contenus générés par l'IA. "Cette enquête est une étape cruciale pour tenir les plateformes de médias sociaux responsables du contenu qui est partagé sur leurs sites", a déclaré le Dr Anya Sharma, chercheuse à l'Oxford Internet Institute spécialisée dans la gouvernance de l'IA. "Nous avons besoin de directives claires et de mécanismes d'application robustes pour empêcher l'utilisation abusive de l'IA et pour protéger les individus contre les préjudices associés aux deepfakes."

L'enquête devrait durer plusieurs mois, et Ofcom a le pouvoir d'imposer des amendes importantes à X s'il constate que la plateforme enfreint la loi sur la sécurité en ligne. L'issue de cette enquête pourrait avoir des implications considérables pour la réglementation des contenus générés par l'IA sur les plateformes de médias sociaux, tant au Royaume-Uni qu'à l'international. Elle souligne également la pression croissante exercée sur les entreprises technologiques pour qu'elles s'attaquent de manière proactive aux défis éthiques et sociétaux posés par les technologies d'IA en évolution rapide. Ofcom publiera ses conclusions à l'issue de l'enquête.