Des images de Nicolás Maduro générées par l'IA ont inondé les réseaux sociaux samedi, le dépeignant faussement en état d'arrestation. Les photos fabriquées se sont rapidement propagées après l'annonce de l'arrestation présumée par les forces américaines. Les images montraient Maduro menotté et sous surveillance militaire.

Les experts estiment que des outils d'IA ont probablement créé les images. Cela marque un cas significatif de contenu généré par l'IA influençant les perceptions d'un événement en temps réel. Roberta Braga, du Digital Democracy Institute of the Americas, a noté le volume sans précédent d'images d'IA dépeignant un événement réel supposé.

Les principaux générateurs d'images d'IA ont des politiques contre le contenu trompeur. Beaucoup interdisent explicitement les fausses images de personnalités publiques. Malgré ces protections, les outils ont généré les images de Maduro. L'outil d'IA exact utilisé reste non confirmé.

La technologie de génération d'images par l'IA a progressé rapidement. Cet incident souligne le potentiel de mauvaise utilisation et de désinformation. La diffusion de ces images soulève des inquiétudes quant à l'avenir de l'intégrité de l'information en ligne.

Il faut s'attendre à un examen accru des plateformes de génération d'images par l'IA. Une enquête plus approfondie sur la source des images est prévue. L'incident alimentera probablement le débat sur la réglementation du contenu généré par l'IA.