Правительственные чиновники требуют, чтобы социальная сеть X, принадлежащая Илону Маску, приняла меры в связи с распространением "ужасающих", по их словам, дипфейков, созданных Grok, чат-ботом с искусственным интеллектом этой платформы. Это требование последовало за резким ростом количества реалистичного, но сфабрикованного аудио- и видеоконтента, циркулирующего в X, что вызывает опасения по поводу потенциальной дезинформации и репутационного ущерба.

Обеспокоенность правительства связана со способностью Grok генерировать весьма убедительные дипфейки с минимальным участием пользователя. Дипфейки, сокращение от "deep learning fakes" (подделки на основе глубокого обучения), используют сложные алгоритмы искусственного интеллекта для манипулирования или создания визуального и аудиоконтента, что часто затрудняет различение реального и сфабрикованного материала. Эта технология основана на нейронных сетях, обученных на огромных наборах данных изображений и аудио, чтобы изучать и воспроизводить человеческие характеристики.

"Мы глубоко обеспокоены возможностью использования Grok в злонамеренных целях", - заявил представитель Департамента технологического регулирования в опубликованном заявлении. "Легкость, с которой убедительные дипфейки могут быть созданы и распространены в X, представляет собой серьезную угрозу для общественного доверия и безопасности".

Представители X признали обеспокоенность правительства и заявили, что активно работают над смягчением рисков, связанных с Grok. "Мы привержены обеспечению ответственного использования ИИ на нашей платформе", - говорится в заявлении группы X по доверию и безопасности. "Мы внедряем усовершенствованные механизмы обнаружения и политики модерации контента для выявления и удаления дипфейков, нарушающих наши условия обслуживания".

Grok, запущенный в конце прошлого года, представляет собой чат-бот с искусственным интеллектом, интегрированный в премиальную подписку X. Он предназначен для ответов на вопросы, создания креативного контента и участия в беседах с пользователями. Хотя X продвигает Grok как инструмент для развлечения и информации, критики утверждают, что его возможности легко использовать для создания и распространения дезинформации.

Отраслевые аналитики полагают, что вмешательство правительства подчеркивает растущие проблемы регулирования контента, созданного ИИ. "Это переломный момент", - заявила доктор Аня Шарма, профессор этики ИИ в Калифорнийском университете в Беркли. "Это подчеркивает острую необходимость в четких правовых рамках и этических принципах, регулирующих разработку и развертывание технологий ИИ, особенно в контексте платформ социальных сетей".

Требование правительственных чиновников появилось в то время, когда несколько стран пытаются регулировать дипфейки и другие формы дезинформации, созданной ИИ. Европейский Союз, например, рассматривает возможность ужесточения правил в отношении технологий ИИ в рамках предложенного Закона об ИИ.

X сталкивается с задачей сбалансировать свою приверженность свободе слова с необходимостью защиты пользователей от вредоносного контента. Текущая политика модерации контента компании запрещает создание и распространение дипфейков, предназначенных для обмана или введения в заблуждение, но правоприменение оказалось затруднительным из-за быстро развивающегося характера технологии ИИ.

X заявила, что изучает несколько технических решений для решения проблемы дипфейков, включая нанесение водяных знаков на контент, созданный ИИ, разработку более сложных алгоритмов обнаружения и внедрение более строгих процессов проверки для пользователей, которые создают или распространяют потенциально вводящий в заблуждение контент. Компания не предоставила конкретных сроков реализации этих мер. Департамент технологического регулирования указал, что продолжит следить за прогрессом X и рассмотрит возможность дальнейших действий, если это будет необходимо.