Une interdiction au Royaume-Uni est une possibilité pour une entreprise, désignée sous le nom de X, en raison de préoccupations concernant les deepfakes, selon une déclaration d'un ministre du gouvernement. Le ministre a cité le prétendu manquement de la plateforme à lutter adéquatement contre la prolifération de contenus manipulés générés par l'IA comme motif de cette interdiction potentielle.

Le gouvernement envisage activement toutes les options disponibles, y compris une interdiction, afin de garantir la sécurité des citoyens et l'intégrité de l'information, a déclaré le ministre lors d'une audition parlementaire mardi. Les préoccupations spécifiques concernent les deepfakes qui pourraient potentiellement induire le public en erreur, influencer les élections ou nuire à la réputation.

La loi sur la sécurité en ligne, adoptée l'année dernière, accorde au gouvernement des pouvoirs pour réglementer les plateformes en ligne et les tenir responsables des contenus préjudiciables. Cette législation fournit le cadre d'une action potentielle contre X, y compris des amendes et, en fin de compte, une interdiction si la plateforme ne se conforme pas aux dispositions de la loi.

Les critiques de X affirment depuis longtemps que la plateforme n'a pas fait assez pour lutter contre la diffusion de la désinformation et des contenus préjudiciables, y compris les deepfakes. Ils soulignent les cas où des vidéos et des images manipulées sont devenues virales, causant des dommages réels.

X, en réponse à la déclaration du ministre, a publié une déclaration affirmant son engagement à lutter contre les deepfakes et la désinformation. L'entreprise a exposé ses politiques et technologies existantes visant à détecter et à supprimer les contenus manipulés, ajoutant qu'elle travaille continuellement à améliorer ses capacités dans ce domaine. "Nous prenons très au sérieux la question des deepfakes et nous nous engageons à protéger nos utilisateurs contre les contenus préjudiciables", pouvait-on lire dans la déclaration.

Cependant, certains experts restent sceptiques quant aux efforts de X, arguant que les politiques de la plateforme ne sont pas appliquées de manière cohérente et que ses technologies de détection ne sont pas suffisamment avancées pour suivre le rythme de l'évolution rapide des capacités de la technologie des deepfakes.

La décision du gouvernement britannique intervient dans un contexte d'inquiétude croissante à l'échelle mondiale quant au potentiel des deepfakes à saper la confiance dans les institutions et à déstabiliser les sociétés. Plusieurs pays étudient des moyens de réglementer les deepfakes et de tenir responsables ceux qui les créent et les diffusent.

Le ministère des Sciences, de l'Innovation et de la Technologie examine actuellement la réponse de X aux préoccupations du gouvernement. Le ministère devrait faire une recommandation au ministre dans les semaines à venir, après quoi une décision sera prise quant à l'opportunité de poursuivre une interdiction. Le processus décisionnel impliquera des consultations avec des experts, des parties prenantes et d'autres agences gouvernementales.