Ofcom enquête sur X concernant les inquiétudes liées aux deepfakes sexuels de Grok AI

Londres - L'Ofcom, l'autorité de régulation des communications du Royaume-Uni, a lancé une enquête sur la plateforme de médias sociaux X (anciennement Twitter) d'Elon Musk, en raison de préoccupations concernant l'utilisation de son outil d'intelligence artificielle, Grok, pour créer des images à caractère sexuel. L'enquête a été déclenchée par des "signalements profondément préoccupants" concernant l'utilisation du chatbot pour générer et partager des images de personnes dénudées, ainsi que des "images à caractère sexuel d'enfants", selon un communiqué publié par l'Ofcom.

L'enquête du gendarme portera sur la question de savoir si X a violé les lois et réglementations pertinentes concernant la création et la distribution de ce type de contenu. S'il s'avère que X a enfreint la loi, l'Ofcom a le pouvoir d'imposer une amende pouvant aller jusqu'à 10 % de son chiffre d'affaires mondial ou 18 millions de livres sterling, le montant le plus élevé étant retenu.

En réponse à l'enquête, X a renvoyé à une déclaration publiée par son compte Sécurité au début du mois de janvier. La déclaration disait : "Quiconque utilise ou incite Grok à créer du contenu illégal [sera]". La déclaration complète n'était pas disponible dans le document source.

L'enquête est en cours et l'Ofcom n'a pas fourni de calendrier précis pour son achèvement. L'issue de l'enquête pourrait avoir des implications importantes pour X et les autres plateformes utilisant des outils d'IA, ce qui pourrait entraîner des réglementations plus strictes et une plus grande responsabilité quant au contenu généré par ces technologies.