Католический священник и подкастер отец Майк Шмитц сообщил своей YouTube-пастве, насчитывающей более 1,2 миллиона подписчиков, в ноябре, что дипфейки с использованием искусственного интеллекта выдают себя за него, пытаясь обмануть их. Шмитц предупредил своих последователей, что они "не всегда могут доверять словам, исходящим из его уст", потому что иногда это были не совсем его уста или его слова.

Дипфейки представляли собой цифровую сфабрикованную версию Шмитца, просящего молитв и благословений в обмен на переход по ссылке. В одном случае фальшивый Шмитц, с песочными часами, маячившими за его спиной, призывал зрителей "действовать быстро, потому что места для отправки молитв уже заканчиваются, - говорил другой фальшивый Шмитц с маячившими за его спиной песочными часами. И следующая поездка состоится только через четыре месяца". Настоящий Шмитц, базирующийся в Дулуте, штат Миннесота, включил примеры сгенерированных ИИ подделок в свое объявление для общественности, подчеркнув тонкое роботизированное качество голоса.

Дипфейки - это синтетические медиа, в которых человек на существующем изображении или видео заменяется чьим-то другим подобием с использованием искусственного интеллекта. Эти сгенерированные ИИ подделки становятся все более изощренными, что затрудняет для обычного человека отличить их от подлинного контента. Технология основана на алгоритмах машинного обучения, в частности, глубокого обучения, для анализа и воспроизведения мимики, голоса и манер человека. Это позволяет злоумышленникам создавать убедительные поддельные видео- и аудиозаписи для различных обманных целей, включая мошенничество, кампании по дезинформации и кражу личных данных.

Рост технологии дипфейков представляет собой серьезную проблему для общества, подрывая доверие к цифровым медиа и вызывая опасения по поводу потенциальной возможности манипулирования. Эксперты предупреждают, что растущая доступность инструментов для создания дипфейков может привести к распространению мошенничества, нацеленного на уязвимые слои населения.

Шмитц признал, что людям трудно отличить реальное от поддельного. "Я могу посмотреть на них и сказать: "Это смешно, я бы никогда этого не сказал", - сказал Шмитц. "Но люди не всегда могут это понять. Это проблема".

Правоохранительные органы и технологические компании работают над разработкой методов обнаружения и борьбы с дипфейками. Эти усилия включают в себя создание алгоритмов, которые могут выявлять тонкие несоответствия в синтетических медиа, и просвещение общественности о рисках, связанных с дипфейками.