Даунинг-стрит, 10 признала сообщения о том, что X, ранее Twitter, предпринимает шаги для решения проблемы распространения дипфейков, сгенерированных с использованием Grok, ее модели искусственного интеллекта. Положительная реакция правительства сигнализирует о растущей обеспокоенности по поводу потенциального злоупотребления контентом, сгенерированным ИИ, и его влияния на общественный дискурс.

Этот шаг X последовал за усилением контроля над моделями ИИ, способными создавать очень реалистичный и потенциально вводящий в заблуждение аудио- и видеоконтент. Дипфейки, созданные с использованием сложных методов машинного обучения, могут убедительно имитировать голоса и внешность людей, вызывая опасения по поводу дезинформационных кампаний и репутационного ущерба. Grok, модель ИИ X, представляет собой большую языковую модель (LLM), предназначенную для создания текста, сопоставимого по качеству с человеческим, и, потенциально, для содействия созданию дипфейк-контента, если он не контролируется должным образом.

"Мы приветствуем любые усилия по смягчению рисков, связанных с дипфейками, сгенерированными ИИ", - заявил представитель правительства. "Крайне важно, чтобы технологические компании взяли на себя ответственность за обеспечение того, чтобы их платформы не использовались для распространения дезинформации или вредоносного контента".

Технический процесс создания дипфейков обычно включает в себя обучение нейронной сети на огромном наборе данных изображений и аудиозаписей целевого человека. Это позволяет ИИ изучить уникальные характеристики человека, а затем применять их к новому, сфабрикованному контенту. Генеративные состязательные сети (GAN) являются распространенной архитектурой, используемой при создании дипфейков, сталкивая две нейронные сети друг с другом - одна генерирует поддельный контент, а другая пытается отличить его от реального контента - до тех пор, пока генератор не создаст очень убедительные подделки.

Рост доступности инструментов ИИ демократизировал создание дипфейков, облегчив отдельным лицам с ограниченным техническим опытом создание убедительного поддельного контента. Это имеет серьезные последствия для различных секторов, включая политику, СМИ и развлечения. Эксперты предупреждают, что дипфейки могут быть использованы для манипулирования выборами, распространения ложных нарративов или нанесения ущерба репутации отдельных лиц.

X пока не опубликовала конкретные сведения о мерах, которые она реализует для решения проблемы дипфейков, связанных с Grok. Однако потенциальные решения могут включать в себя расширенные политики модерации контента, улучшенные алгоритмы обнаружения и методы нанесения водяных знаков для идентификации контента, сгенерированного ИИ. Компания, вероятно, изучает методы обнаружения тонких несоответствий или артефактов в дипфейк-видео и аудио, которые не сразу заметны человеческому глазу.

Влияние этой проблемы на отрасль значительно. Поскольку технология ИИ продолжает развиваться, потребность в надежных гарантиях и этических принципах становится все более острой. Действия, предпринятые X, могут создать прецедент для других технологических компаний, разрабатывающих и развертывающих модели ИИ. Разработка эффективных технологий обнаружения и предотвращения дипфейков в настоящее время является важнейшей областью исследований и разработок.

Ситуация остается изменчивой, и в ближайшие недели ожидаются дальнейшие заявления от X относительно их конкретных стратегий борьбы с дипфейками, связанными с Grok. Правительство, вероятно, продолжит внимательно следить за ситуацией и взаимодействовать с технологическими компаниями для обеспечения ответственной разработки и развертывания ИИ.