Сгенерированные ИИ изображения, изображающие арест Николаса Мадуро, заполонили социальные сети. Поддельные фотографии быстро распространились в субботу, показывая венесуэльского президента в наручниках и под стражей военных. Эксперты полагают, что изображения были созданы с помощью инструментов ИИ. Это знаменует собой новое тревожное развитие в потенциале ИИ для дезинформации.

Изображения появились через несколько часов после ложных сообщений об аресте Мадуро силами США. Несмотря на меры предосторожности, принятые основными генераторами изображений ИИ против обманчивого контента и поддельных изображений публичных деятелей, инструменты создали эти изображения. Конкретный используемый инструмент ИИ остается неопознанным.

Этот инцидент подчеркивает проблему контроля над дезинформацией, генерируемой ИИ. Роберта Брага из Института цифровой демократии Америки отметила, что это первый случай широкого распространения изображений, созданных ИИ, изображающих предполагаемое событие в реальном времени. Быстрое распространение поднимает вопросы о влиянии на общественное восприятие и доверие.

Генераторы изображений ИИ используют алгоритмы для создания реалистичных изображений из текстовых запросов. Хотя многие из них имеют политику против злоупотреблений, обход этих мер предосторожности оказывается возможным. Этот инцидент подчеркивает необходимость улучшения обнаружения и регулирования дезинформации, генерируемой ИИ.

Ожидается усиление контроля над платформами генерации изображений ИИ. Вероятно дальнейшее расследование источника и распространения изображений. Инцидент подстегнет дебаты об этических принципах и технологических решениях для борьбы с дезинформацией, основанной на ИИ.