Le gouvernement a exhorté l'Ofcom, l'autorité britannique de régulation des communications, à envisager d'utiliser toute l'étendue de ses pouvoirs, y compris potentiellement une interdiction, à l'encontre de la plateforme de médias sociaux X en raison de préoccupations concernant la circulation d'images illégales générées par l'intelligence artificielle sur le site. Cette action découle d'une appréhension croissante quant au modèle d'IA de X, Grok, qui serait utilisé pour créer des deepfakes, en particulier ceux qui déshabillent numériquement des individus sur des images.

L'autorité de l'Ofcom, accordée en vertu de la loi sur la sécurité en ligne (Online Safety Act), lui permet de demander des ordonnances judiciaires qui pourraient empêcher des organisations tierces de fournir un soutien financier ou de permettre l'accès à X au Royaume-Uni. La préoccupation accrue du gouvernement est motivée par le potentiel de Grok à générer des images sexuellement explicites, y compris celles représentant des enfants.

Le Premier ministre Sir Keir Starmer a condamné la création de telles images, déclarant : « C'est scandaleux. C'est dégoûtant. Et ce n'est pas tolérable. L'Ofcom a notre plein soutien pour prendre des mesures à ce sujet. » Il a en outre souligné la position du gouvernement, ajoutant : « C'est illégal. Nous n'allons pas le tolérer. J'ai demandé que toutes les options soient sur la table. » Des sources gouvernementales ont confirmé à BBC News que l'Ofcom devrait explorer toutes les mesures disponibles en réponse aux problèmes liés à Grok sur X.

Les deepfakes, un type de média synthétique, utilisent l'IA, en particulier les techniques d'apprentissage profond, pour créer des images, des vidéos ou des enregistrements audio réalistes mais fabriqués. La technologie soulève d'importantes questions éthiques et juridiques, en particulier lorsqu'elle est utilisée pour générer des images intimes non consensuelles ou pour diffuser de la désinformation. La capacité de l'IA à modifier ou à fabriquer de manière convaincante du contenu pose un défi à la vérification des informations et à la protection des individus contre les préjudices.

La loi sur la sécurité en ligne (Online Safety Act) accorde à l'Ofcom un pouvoir considérable pour réglementer les plateformes en ligne et lutter contre les contenus préjudiciables. Cela comprend la possibilité d'infliger des amendes aux entreprises, de bloquer l'accès aux sites web et potentiellement de tenir les dirigeants individuels responsables des manquements à la protection des utilisateurs. La loi vise à établir un cadre pour la sécurité en ligne, obligeant les plateformes à supprimer les contenus illégaux et à protéger les utilisateurs contre les préjudices.

La situation met en évidence le débat en cours sur la réglementation de l'IA et son impact potentiel sur la société. Alors que la technologie de l'IA continue de progresser, les décideurs politiques et les régulateurs s'efforcent de trouver un équilibre entre l'innovation et la nécessité de protéger les individus contre les préjudices potentiels associés à son utilisation abusive. L'issue de l'enquête de l'Ofcom et de toute action ultérieure entreprise contre X établira probablement un précédent sur la manière dont le Royaume-Uni réglemente le contenu généré par l'IA sur les plateformes en ligne. Le régulateur devrait maintenant examiner les preuves et déterminer la ligne de conduite appropriée, en tenant compte de toute l'étendue de ses pouvoirs en vertu de la loi sur la sécurité en ligne (Online Safety Act).