Le 10 Downing Street a exprimé son approbation des informations indiquant que X, anciennement Twitter, prend des mesures pour résoudre le problème des deepfakes générés à l'aide de Grok, son modèle d'intelligence artificielle. Cette initiative intervient dans un contexte d'inquiétudes croissantes quant à l'utilisation potentiellement abusive de contenu généré par l'IA pour diffuser de la désinformation et de la propagande.

La réaction positive du gouvernement reflète une volonté plus large de développement et de déploiement responsables de l'IA. "Nous saluons tous les efforts visant à atténuer les risques associés aux deepfakes générés par l'IA", a déclaré un porte-parole du gouvernement. "Il est essentiel que les entreprises technologiques prennent des mesures proactives pour s'assurer que leurs technologies ne sont pas utilisées à des fins malveillantes."

Les deepfakes, un mot-valise combinant "deep learning" (apprentissage profond) et "fake" (faux), sont des médias synthétiques dans lesquels une personne dans une image ou une vidéo existante est remplacée par l'apparence de quelqu'un d'autre. Grok, le grand modèle linguistique de X, est capable de générer du texte et des images réalistes, ce qui soulève des inquiétudes quant à son utilisation potentielle pour créer un contenu convaincant mais fabriqué. La technologie repose sur des algorithmes sophistiqués, notamment des réseaux antagonistes génératifs (GAN), pour apprendre et reproduire des modèles à partir de données existantes. Les GAN impliquent deux réseaux neuronaux, un générateur et un discriminateur, qui s'affrontent pour produire des résultats de plus en plus réalistes.

Les mesures spécifiques que X mettrait en œuvre pour lutter contre les deepfakes générés par Grok n'ont pas été entièrement divulguées. Cependant, les experts du secteur estiment qu'elles pourraient inclure le marquage à l'eau du contenu généré par l'IA, le développement d'outils de détection pour identifier les deepfakes et la mise en œuvre de politiques de modération de contenu plus strictes. Le marquage à l'eau consiste à intégrer un signal subtil, souvent imperceptible, dans une image ou une vidéo pour indiquer qu'elle a été créée par l'IA. Les outils de détection utilisent des algorithmes d'apprentissage automatique pour analyser les médias et identifier les signes révélateurs de manipulation.

L'essor des deepfakes pose un défi important à la confiance et à la crédibilité à l'ère numérique. Les experts avertissent que ces vidéos et images fabriquées peuvent être utilisées pour manipuler l'opinion publique, nuire à la réputation et même inciter à la violence. L'impact potentiel sur les élections et le discours politique est particulièrement préoccupant.

D'autres plateformes de médias sociaux et développeurs d'IA sont également aux prises avec le problème des deepfakes. Des entreprises comme Meta et Google ont investi massivement dans la recherche et le développement pour détecter et supprimer les médias manipulés de leurs plateformes. Le Partnership on AI, un consortium d'entreprises technologiques, d'universitaires et d'organisations de la société civile, s'efforce d'élaborer des directives éthiques et des bonnes pratiques pour le développement de l'IA.

L'état actuel des efforts de X pour lutter contre les deepfakes de Grok reste incertain. D'autres détails devraient être publiés par l'entreprise dans les semaines à venir. Le gouvernement a indiqué qu'il continuerait à surveiller la situation de près et à collaborer avec les entreprises technologiques pour assurer le développement et le déploiement responsables des technologies d'IA.