Le gouvernement a exhorté l'Ofcom, l'autorité britannique de régulation des communications, à envisager d'utiliser toute l'étendue de ses pouvoirs, y compris potentiellement une interdiction, à l'encontre de la plateforme de médias sociaux X en raison des préoccupations concernant les images illégales générées par l'intelligence artificielle qui circulent sur le site. Cette action découle d'une appréhension croissante quant au modèle d'IA de X, Grok, qui serait utilisé pour créer des deepfakes, en particulier ceux qui déshabillent numériquement des personnes sur des images.

L'autorité de l'Ofcom en vertu de la loi sur la sécurité en ligne (Online Safety Act) lui permet de demander des ordonnances judiciaires qui pourraient empêcher des tiers d'aider X, propriété d'Elon Musk, à lever des capitaux ou à permettre l'accès à la plateforme au Royaume-Uni. La préoccupation accrue du gouvernement découle de la création potentielle d'images sexualisées d'enfants à l'aide de Grok.

Le Premier ministre Sir Keir Starmer a condamné la création de telles images, déclarant : "C'est scandaleux. C'est dégoûtant. Et ce n'est pas tolérable. L'Ofcom a notre plein soutien pour prendre des mesures à ce sujet." Il a en outre souligné la position du gouvernement, ajoutant : "C'est illégal. Nous n'allons pas le tolérer. J'ai demandé que toutes les options soient sur la table", dans une interview accordée à Greatest Hits Radio. Des sources gouvernementales ont confirmé à BBC News qu'elles "s'attendaient à ce que l'Ofcom utilise tous les pouvoirs à sa disposition concernant Grok X."

Les deepfakes, un mot-valise de "deep learning" (apprentissage profond) et "fake" (faux), sont des médias synthétiques dans lesquels une personne dans une image ou une vidéo existante est remplacée par la ressemblance de quelqu'un d'autre à l'aide de l'intelligence artificielle. Bien que les deepfakes aient diverses applications, notamment dans le divertissement et l'expression artistique, leur potentiel d'utilisation abusive, comme la création d'images intimes non consensuelles ou la diffusion de désinformation, soulève d'importantes préoccupations éthiques et juridiques. La sophistication des modèles d'IA comme Grok a rendu de plus en plus difficile la distinction entre le contenu authentique et le contenu manipulé, ce qui complique encore le problème.

La loi sur la sécurité en ligne (Online Safety Act) confère à l'Ofcom des pouvoirs importants pour réglementer le contenu en ligne et protéger les utilisateurs contre les préjudices. Ces pouvoirs comprennent la possibilité d'infliger des amendes, d'exiger la suppression de contenu illégal et, dans les cas extrêmes, de bloquer l'accès aux sites web. L'insistance du gouvernement auprès de l'Ofcom pour qu'elle envisage une interdiction de X souligne le sérieux avec lequel il considère les préjudices potentiels associés aux deepfakes générés par l'IA.

La situation reste fluide et il n'est pas clair quelles mesures spécifiques l'Ofcom prendra. Le régulateur devrait examiner attentivement les preuves et le cadre juridique avant de prendre une décision. L'issue de cette affaire pourrait avoir des implications importantes pour la réglementation du contenu généré par l'IA et les responsabilités des plateformes de médias sociaux dans la lutte contre l'utilisation abusive des technologies de l'IA.