Даунинг-стрит, 10 выразила одобрение в связи с сообщениями о том, что X, ранее известная как Twitter, предпринимает шаги для решения проблемы дипфейков, созданных с использованием Grok, ее модели искусственного интеллекта. Этот шаг предпринят на фоне растущей обеспокоенности по поводу потенциального злоупотребления контентом, созданным ИИ, для распространения дезинформации и манипулирования общественным мнением.

Представитель премьер-министра заявил, что правительство приветствует любые усилия технологических компаний по смягчению рисков, связанных с ИИ, особенно в контексте дипфейков. "Мы четко заявили о необходимости ответственной разработки и внедрения ИИ", - сказал представитель. "Отрадно видеть, что такие платформы, как X, предпринимают активные шаги для устранения возможности злоупотреблений".

Дипфейки - это синтетические медиа, в которых человек на существующем изображении или видео заменяется кем-то другим, похожим на него, и создаются с использованием сложных методов ИИ, часто с использованием генеративных состязательных сетей (GAN). GAN состоят из двух нейронных сетей, генератора и дискриминатора, которые работают в тандеме. Генератор создает синтетический контент, а дискриминатор пытается отличить реальный контент от поддельного. Благодаря этому итеративному процессу генератор учится создавать все более реалистичные дипфейки.

Grok от X, модель ИИ, разработанная для обработки и генерации естественного языка, потенциально может быть использована для создания реалистичных текстовых дипфейков или для создания сценариев для видео-дипфейков. Конкретные меры, которые, как сообщается, X принимает для решения проблемы дипфейков, связанных с Grok, не были полностью раскрыты, но отраслевые аналитики предполагают, что они могут включать в себя внедрение политики модерации контента, разработку инструментов обнаружения и нанесение водяных знаков на контент, сгенерированный ИИ.

Рост числа дипфейков представляет собой серьезную проблему для информационной экосистемы. Эксперты предупреждают, что эти манипулируемые медиа могут быть использованы для нанесения ущерба репутации, посеять раздор и даже повлиять на выборы. Растущая доступность и сложность технологии затрудняют различие между подлинным и сфабрикованным контентом, подрывая доверие к средствам массовой информации и институтам.

Другие платформы социальных сетей и технологические компании также борются с проблемой дипфейков. Многие инвестируют в инструменты обнаружения на основе ИИ, которые могут идентифицировать манипулируемые медиа на основе тонких несоответствий или артефактов. Некоторые также изучают использование технологии блокчейн для проверки подлинности контента.

Правительство Великобритании активно рассматривает нормативные рамки для ИИ, включая меры по устранению рисков, связанных с дипфейками. Закон о безопасности в Интернете (Online Safety Act), который недавно вступил в силу, включает положения о борьбе с вредоносным онлайн-контентом, включая манипулируемые медиа.

Текущий статус усилий X по решению проблемы дипфейков Grok остается неясным. Ожидается, что компания опубликует более подробную информацию в ближайшие недели. Представитель правительства подтвердил важность постоянного сотрудничества между правительством, промышленностью и гражданским обществом для решения проблем, связанных с ИИ, и обеспечения его ответственной разработки и использования.