Ofcom, британский регулятор в сфере коммуникаций, начал расследование в отношении социальной сети X Илона Маска, ранее известной как Twitter, в связи с опасениями по поводу распространения дипфейков сексуального характера, сгенерированных Grok, чат-ботом X на основе искусственного интеллекта. Расследование, о котором было объявлено в среду, сосредоточено на том, располагает ли X адекватными системами для предотвращения создания и распространения сгенерированного ИИ контента сексуального характера, особенно дипфейков, в нарушение Закона о безопасности в интернете (Online Safety Act).

Закон о безопасности в интернете, вступивший в силу в начале этого года, возлагает на платформы социальных сетей юридическую обязанность заботиться о защите пользователей от незаконного и вредоносного контента. Ofcom имеет право штрафовать компании на сумму до 10% от их глобального оборота за нарушения Закона. Это одно из первых крупных расследований в рамках нового законодательства, посвященное конкретно контенту, сгенерированному ИИ.

Дипфейки, образованные от слов "deep learning" (глубокое обучение) и "fake" (подделка), представляют собой синтетические медиа, в которых человек на существующем изображении или видео заменяется на изображение другого человека. Эта технология использует сложные алгоритмы искусственного интеллекта, в частности глубокие нейронные сети, для убедительной замены лиц или манипулирования аудио- и видеоконтентом. Хотя дипфейки имеют законное применение, например, в кинопроизводстве и художественном выражении, они также создают значительные риски, включая создание порнографии без согласия, распространение дезинформации и потенциальный ущерб репутации.

"Защита пользователей от незаконного и вредоносного контента в интернете является нашим главным приоритетом", - заявил представитель Ofcom. "Мы проводим расследование в отношении X, чтобы оценить, выполняет ли компания свои обязательства в соответствии с Законом о безопасности в интернете по предотвращению распространения сгенерированных ИИ сексуальных дипфейков. Это новая и быстро развивающаяся область, и нам необходимо убедиться, что платформы принимают надлежащие меры для защиты своих пользователей".

X пока не опубликовала официального заявления относительно расследования. Однако Илон Маск ранее заявлял о своей приверженности борьбе со злоупотреблениями ИИ на платформе. Grok, чат-бот X на основе ИИ, был запущен в конце прошлого года и предназначен для ответов на вопросы в разговорной и иногда юмористической манере. Однако были высказаны опасения по поводу его потенциального использования в злонамеренных целях, включая создание вредоносного контента.

Эксперты в области этики ИИ и онлайн-безопасности приветствовали расследование Ofcom. "Это важный шаг в привлечении платформ социальных сетей к ответственности за контент, который создается и распространяется на их сайтах", - сказала доктор Эмили Картер, исследователь из Оксфордского института интернета, специализирующаяся на управлении ИИ. "Быстрое развитие технологии ИИ требует упреждающего регулирования для смягчения рисков злоупотреблений, особенно в контексте дипфейков и изображений без согласия".

Расследование, вероятно, будет включать в себя тщательную оценку политики X в отношении модерации контента, ее возможностей обнаружения ИИ и ее процедур реагирования на сообщения о вредоносном контенте. Ofcom также изучит меры, которые X принимает для предотвращения создания и распространения дипфейков с помощью Grok. Результаты расследования могут иметь значительные последствия для будущего регулирования ИИ и обязанностей платформ социальных сетей в эпоху синтетических медиа. Ofcom планирует представить обновленную информацию о своих выводах в ближайшие месяцы.