Даунинг-стрит, 10 подтвердила сообщения о том, что X, ранее Twitter, предпринимает шаги для решения проблемы распространения дипфейков, созданных с использованием Grok, ее модели искусственного интеллекта. Положительная реакция правительства свидетельствует о растущей обеспокоенности по поводу потенциального злоупотребления контентом, созданным ИИ, и его влияния на общественный дискурс.

Действия X происходят на фоне усиливающегося контроля над моделями ИИ и их способностью создавать реалистичные, но сфабрикованные видео и аудио. Дипфейки, использующие сложные методы машинного обучения, могут использоваться для распространения дезинформации, манипулирования общественным мнением и нанесения ущерба репутации. Grok, модель ИИ от X, представляет собой большую языковую модель (LLM), аналогичную тем, которые используются в других инструментах ИИ, способную генерировать текст, переводить языки и создавать различные виды креативного контента. Однако ее доступность вызвала опасения по поводу ее потенциального злоупотребления при создании дипфейков.

"Мы приветствуем любые шаги, предпринятые платформами социальных сетей для смягчения рисков, связанных с дезинформацией, созданной ИИ", - заявил представитель правительства. "Крайне важно, чтобы эти платформы несли ответственность за контент, размещенный на их сайтах, и принимали меры для предотвращения распространения вредоносных дипфейков".

Конкретные меры, которые, по сообщениям, внедряет X, не были полностью раскрыты, но отраслевые аналитики предполагают, что они могут включать усиленную политику модерации контента, улучшенные алгоритмы обнаружения и более строгие правила для пользователей в отношении использования контента, созданного ИИ. Алгоритмы обнаружения часто полагаются на выявление тонких несоответствий или артефактов в дипфейках, которые не сразу заметны человеческому глазу. К ним могут относиться неестественные модели моргания, несоответствия в освещении или искажения черт лица.

Рост числа дипфейков представляет собой серьезную проблему для медиа-ландшафта и демократических процессов. Эксперты предупреждают, что растущая сложность этих технологий затрудняет различение подлинного и сфабрикованного контента, что потенциально подрывает доверие к институтам и усиливает социальный раскол. Влияние на отрасль значительно, поскольку медиа-организации, агентства по проверке фактов и технологические компании борются с необходимостью разработки эффективных стратегий для выявления и борьбы с дипфейками.

Это развитие подчеркивает продолжающиеся дебаты вокруг регулирования ИИ и ответственности технологических компаний за обеспечение этичного использования своих технологий. В то время как одни выступают за более строгий государственный надзор, другие утверждают, что саморегулирование и сотрудничество в отрасли являются более эффективными подходами.

X пока не опубликовала подробного заявления с изложением своих конкретных планов по борьбе с дипфейками, созданными Grok. Ожидается, что дальнейшие объявления будут сделаны в ближайшие недели, поскольку компания работает над реализацией своей стратегии и решением проблем, поднятых правительственными чиновниками и общественностью. Эффективность этих мер будет внимательно отслеживаться политиками, заинтересованными сторонами отрасли и общественностью.