Le 10 Downing Street a exprimé son approbation face aux informations selon lesquelles X, anciennement Twitter, prend des mesures pour lutter contre le problème des deepfakes générés à l'aide de son modèle d'IA Grok. Le cabinet du Premier ministre a reconnu le potentiel d'utilisation abusive du contenu généré par l'IA et a souligné l'importance pour les plateformes d'assumer la responsabilité d'atténuer les risques.

Les deepfakes, un mot-valise combinant "deep learning" (apprentissage profond) et "fake" (faux), sont des médias synthétiques dans lesquels une personne dans une image ou une vidéo existante est remplacée par l'apparence de quelqu'un d'autre. Cette technologie exploite une intelligence artificielle sophistiquée, en particulier des algorithmes d'apprentissage profond, pour créer un contenu très réaliste, mais fabriqué. La crainte est que ces deepfakes puissent être utilisés pour diffuser de la désinformation, manipuler l'opinion publique et nuire à la réputation.

Grok, le modèle d'IA de X, est un grand modèle linguistique (LLM) similaire aux modèles GPT d'OpenAI et Gemini de Google. Les LLM sont entraînés sur des ensembles de données massifs de texte et de code, ce qui leur permet de générer du texte de qualité humaine, de traduire des langues, d'écrire différents types de contenu créatif et de répondre à vos questions de manière informative. Cependant, les mêmes capacités qui rendent les LLM utiles peuvent également être exploitées pour créer du contenu malveillant, y compris des deepfakes.

Bien que les détails des mesures spécifiques prises par X pour lutter contre les deepfakes générés par Grok restent limités, les analystes du secteur estiment que la plateforme pourrait mettre en œuvre des techniques telles que le filigrane du contenu généré par l'IA, le développement d'algorithmes pour détecter les deepfakes et l'établissement de politiques claires contre la création et la diffusion de médias synthétiques trompeurs. Le filigranage consiste à intégrer un marqueur subtil, souvent invisible, dans le contenu généré qui l'identifie comme généré par l'IA. Les algorithmes de détection analysent les médias à la recherche de signes révélateurs de manipulation, tels que des incohérences dans les traits du visage ou des mouvements non naturels.

La prolifération des deepfakes pose un défi important à l'écosystème de l'information. Les experts avertissent que la sophistication croissante de ces technologies rend plus difficile la distinction entre le contenu réel et le contenu faux, ce qui pourrait éroder la confiance dans les médias et les institutions. Le gouvernement britannique étudie activement des cadres réglementaires pour l'IA, en mettant l'accent sur la garantie d'un développement et d'un déploiement responsables de la technologie.

La décision de X de lutter contre les deepfakes s'inscrit dans une tendance plus large de l'industrie technologique, où les entreprises sont aux prises avec les implications éthiques et sociétales de l'IA. D'autres grandes plateformes, notamment Meta et Google, ont également annoncé des initiatives pour lutter contre la propagation des deepfakes et d'autres formes de désinformation générée par l'IA.

Le gouvernement suivra de près les progrès de X dans la lutte contre les deepfakes de Grok et s'attend à ce que la plateforme prenne des mesures proactives pour protéger les utilisateurs contre les dommages potentiels de cette technologie, selon une déclaration publiée par un porte-parole de Downing Street. D'autres mises à jour sur les efforts de X sont attendues dans les semaines à venir.