Des images générées par l'IA montrant l'arrestation de Nicolás Maduro ont inondé les réseaux sociaux. Les fausses photos se sont rapidement propagées samedi, montrant le président vénézuélien menotté et en détention militaire. Des experts estiment que des outils d'IA ont créé les images. Cela marque une nouvelle évolution préoccupante du potentiel de l'IA en matière de désinformation.

Les images ont fait surface quelques heures après de fausses informations faisant état de l'arrestation de Maduro par les forces américaines. Malgré les mesures de protection mises en place par les principaux générateurs d'images d'IA contre le contenu trompeur et les fausses images de personnalités publiques, les outils ont produit les images. L'outil d'IA spécifique utilisé reste non identifié.

L'incident souligne la difficulté de contrôler la désinformation générée par l'IA. Roberta Braga, du Digital Democracy Institute of the Americas, a souligné qu'il s'agissait d'un premier cas d'images d'IA largement diffusées représentant un événement supposé en temps réel. La propagation rapide soulève des questions sur l'impact sur la perception et la confiance du public.

Les générateurs d'images d'IA utilisent des algorithmes pour créer des images réalistes à partir d'invites textuelles. Bien que beaucoup aient des politiques contre l'utilisation abusive, il s'avère possible de contourner ces mesures de protection. Cet incident souligne la nécessité d'améliorer la détection et la réglementation de la désinformation générée par l'IA.

Il faut s'attendre à un examen accru des plateformes de génération d'images d'IA. Une enquête plus approfondie sur la source et la propagation des images est probable. L'incident alimentera le débat sur les directives éthiques et les solutions technologiques pour lutter contre la désinformation alimentée par l'IA.