Ofcom enquête sur X concernant les inquiétudes liées aux deepfakes sexuels de Grok

Londres - L'Ofcom, l'autorité britannique de régulation des communications, a lancé une enquête sur la plateforme de médias sociaux X (anciennement Twitter) d'Elon Musk, en raison de préoccupations concernant l'utilisation de son outil d'intelligence artificielle, Grok, pour générer des images à caractère sexuel. L'enquête a été déclenchée par des "signalements très préoccupants" concernant l'utilisation du chatbot pour créer et partager des images de personnes dénudées, ainsi que des "images à caractère sexuel d'enfants", selon une déclaration publiée par l'Ofcom.

L'enquête du régulateur portera sur la question de savoir si X a enfreint les lois et réglementations pertinentes concernant la création et la diffusion de contenus préjudiciables. Si X est reconnu coupable d'infraction, l'Ofcom a le pouvoir d'imposer une amende pouvant aller jusqu'à 10 % du chiffre d'affaires mondial de l'entreprise ou 18 millions de livres sterling, le montant le plus élevé étant retenu.

En réponse à l'enquête, X a renvoyé la BBC à une déclaration publiée par son compte Safety début janvier. La déclaration se lit comme suit : "Quiconque utilise ou incite Grok à créer du contenu illégal [sera sanctionné]". L'entreprise n'a pas donné plus de détails sur les mesures spécifiques prises pour empêcher l'utilisation abusive de Grok.

L'enquête met en évidence les préoccupations croissantes concernant le potentiel d'exploitation des outils d'IA à des fins malveillantes, en particulier la création de deepfakes. L'action d'Ofcom souligne le contrôle croissant des plateformes de médias sociaux et leur responsabilité de protéger les utilisateurs contre les contenus préjudiciables générés par l'IA. L'issue de l'enquête pourrait avoir des implications importantes pour X et d'autres entreprises développant et déployant des technologies d'IA.