Даунинг-стрит, 10 выразила одобрение сообщениям о том, что X, ранее известная как Twitter, предпринимает шаги для решения проблемы дипфейков, созданных Grok, ее моделью искусственного интеллекта. Этот шаг предпринят на фоне растущей обеспокоенности по поводу потенциального злоупотребления контентом, созданным ИИ, для распространения дезинформации и пропаганды.

Представитель премьер-министра заявил, что правительство приветствует любые усилия по смягчению рисков, связанных с технологией дипфейков. "Мы четко заявили о необходимости того, чтобы технологические компании несли ответственность за контент, размещенный на их платформах, особенно когда речь идет о материалах, созданных ИИ", - сказал представитель. "Мы воодушевлены сообщениями о том, что X серьезно относится к этой проблеме".

Дипфейки - это синтетические медиа, в которых человек на существующем изображении или видео заменяется на кого-то другого. Обычно это достигается с помощью сложных методов машинного обучения, в частности алгоритмов глубокого обучения, отсюда и название "дипфейк". Grok, модель ИИ от X, способна генерировать текст и изображения, что вызывает опасения, что ее можно использовать для создания реалистично выглядящих дипфейков в больших масштабах.

Влияние технологии дипфейков на индустрию значительно. Эксперты предупреждают, что дипфейки могут подорвать доверие к СМИ, манипулировать общественным мнением и даже использоваться в злонамеренных целях, таких как финансовое мошенничество или политический саботаж. Распространение доступных инструментов ИИ облегчило создание убедительных дипфейков людям с ограниченным техническим опытом, что увеличивает потенциальный вред.

Хотя подробности конкретных мер, принимаемых X для борьбы с дипфейками, созданными Grok, остаются ограниченными, сообщения предполагают, что компания изучает несколько вариантов, включая нанесение водяных знаков на контент, созданный ИИ, внедрение политики модерации контента для удаления дипфейков, нарушающих условия обслуживания, и разработку инструментов обнаружения для выявления и пометки синтетических медиа.

"Задача состоит не только в обнаружении дипфейков, но и в установлении их источника", - сказала доктор Аня Шарма, ведущий исследователь ИИ в Оксфордском университете. "Если X сможет эффективно отслеживать дипфейки до Grok, это станет значительным шагом вперед в обеспечении подотчетности".

X еще не опубликовала официального заявления о своих планах, но источники, знакомые с этим вопросом, указывают, что объявление ожидается в ближайшие недели. Сообщается, что компания тесно сотрудничает с государственными регулирующими органами и отраслевыми партнерами для разработки комплексного подхода к решению проблемы дипфейков. Эффективность мер, принимаемых X, будет внимательно отслеживаться политиками и общественностью, поскольку дебаты о регулировании ИИ продолжают усиливаться.