Le 10 Downing Street a pris acte des informations selon lesquelles X, anciennement Twitter, prend des mesures pour lutter contre le problème des deepfakes générés à l'aide de Grok, son modèle d'intelligence artificielle. Cette initiative intervient dans un contexte d'inquiétudes croissantes quant au potentiel d'utilisation abusive de contenus générés par l'IA pour diffuser de la désinformation et de la propagande.

Un porte-parole du Premier ministre a déclaré que le gouvernement saluait tous les efforts visant à atténuer les risques associés aux deepfakes, soulignant l'importance d'un développement et d'un déploiement responsables de l'IA. "Nous sommes encouragés de voir des plateformes prendre des mesures proactives pour lutter contre les préjudices potentiels associés aux contenus générés par l'IA", a déclaré le porte-parole. "Le gouvernement s'engage à travailler avec l'industrie et les autres parties prenantes pour garantir que l'IA soit développée et utilisée de manière sûre et éthique."

Les deepfakes sont des médias synthétiques dans lesquels une personne figurant dans une image ou une vidéo existante est remplacée par l'apparence d'une autre personne. Ceci est généralement réalisé à l'aide de techniques sophistiquées d'apprentissage automatique, en particulier des algorithmes d'apprentissage profond – d'où le nom de "deepfake". Grok, le modèle d'IA de X, est un grand modèle linguistique (LLM) similaire à ceux qui alimentent d'autres outils d'IA tels que ChatGPT et Gemini de Google. Les LLM sont entraînés sur des ensembles de données massifs de texte et de code, ce qui leur permet de générer du texte de type humain, de traduire des langues et de créer divers types de contenu. La crainte est que Grok, en cas d'utilisation abusive, puisse générer des deepfakes d'apparence réaliste capables de tromper les spectateurs et de diffuser de faux récits.

X n'a pas encore publié de détails spécifiques concernant les mesures qu'il met en œuvre pour lutter contre les deepfakes générés par Grok. Cependant, les analystes du secteur estiment que l'entreprise pourrait employer des techniques telles que le filigrane des contenus générés par l'IA, le développement d'algorithmes pour détecter les deepfakes et la mise en œuvre de politiques de modération de contenu plus strictes. Le filigrane consiste à intégrer un marqueur subtil, souvent invisible, dans le contenu généré qui l'identifie comme généré par l'IA. Les algorithmes de détection analysent les vidéos et les images à la recherche de signes révélateurs de manipulation, tels que des incohérences dans l'éclairage, des mouvements faciaux non naturels ou des artefacts introduits par le processus de génération de l'IA.

L'essor des deepfakes pose un défi important à l'écosystème de l'information. Les experts avertissent que ces vidéos et images manipulées peuvent être utilisées pour nuire à la réputation, influencer les élections et semer la discorde. La capacité de fabriquer de manière convaincante des événements et des déclarations peut éroder la confiance dans les institutions et saper le discours public.

Le secrétaire d'État au numérique a récemment annoncé son intention de présenter une législation visant à réglementer l'utilisation des deepfakes, en se concentrant sur des domaines tels que la publicité politique et la sécurité en ligne. La législation proposée devrait inclure des mesures visant à exiger la divulgation des contenus générés par l'IA et à tenir les plateformes responsables de la diffusion de deepfakes nuisibles.

L'Information Commissioner's Office (ICO), l'autorité britannique indépendante de protection des données, examine également les implications éthiques de l'IA et son impact potentiel sur la vie privée et la sécurité des données. L'ICO a publié des orientations sur le développement et le déploiement responsables des systèmes d'IA, soulignant la nécessité de transparence, de responsabilité et d'équité.

La situation reste fluide et de plus amples détails concernant les actions spécifiques de X sont attendus dans les semaines à venir. L'efficacité de ces mesures sera étroitement surveillée par les décideurs politiques, les experts du secteur et le public. Le débat actuel souligne la nécessité urgente d'une approche multidimensionnelle pour relever les défis posés par les deepfakes, impliquant des solutions technologiques, des cadres réglementaires et des campagnes de sensibilisation du public.