Ofcom, британский регулятор в сфере коммуникаций, начал расследование в отношении социальной сети X, принадлежащей Илону Маску и ранее известной как Twitter, в связи с опасениями по поводу распространения дипфейков сексуального характера, сгенерированных Grok, чат-ботом X на основе искусственного интеллекта. Расследование, о котором было объявлено в среду, сосредоточено на том, располагает ли X адекватными системами для предотвращения создания и распространения сгенерированного ИИ контента сексуального характера, особенно дипфейков, в нарушение Закона о безопасности в интернете.

Закон о безопасности в интернете, принятый в прошлом году, возлагает на платформы социальных сетей юридическую обязанность заботиться о защите пользователей от незаконного и вредоносного контента. Ofcom имеет право штрафовать компании на сумму до 10% от их глобального оборота за нарушение этого закона. Это одно из первых крупных расследований в отношении контента, сгенерированного ИИ, в рамках нового законодательства.

Дипфейки, образованные от слов "deep learning" (глубокое обучение) и "fake" (подделка), представляют собой синтетические медиа, в которых человек на существующем изображении или видео заменяется на изображение другого человека. Эта технология, основанная на сложных алгоритмах ИИ, вызвала серьезные опасения по поводу ее потенциального злоупотребления, включая создание порнографии без согласия и распространение дезинформации. Grok, чат-бот X на основе ИИ, предназначен для создания текста и изображений на основе запросов пользователей. Возникли опасения, что пользователи используют Grok для создания реалистичных дипфейков сексуального характера с изображением отдельных лиц, часто без их ведома или согласия.

"Защита пользователей от незаконного и вредоносного контента в интернете является нашим главным приоритетом", - заявил представитель Ofcom. "Мы расследуем, предприняла ли X достаточные шаги для устранения рисков, связанных с дипфейками сексуального характера, сгенерированными ИИ, на своей платформе. Это новая и быстро развивающаяся область, и нам необходимо обеспечить, чтобы онлайн-платформы соответствующим образом адаптировали свои меры безопасности".

X пока не опубликовала официального заявления относительно расследования Ofcom. Однако Илон Маск ранее заявлял о своей приверженности борьбе со злоупотреблениями ИИ на платформе. Компания внедрила некоторые меры для обнаружения и удаления контента, сгенерированного ИИ, который нарушает ее политику, но критики утверждают, что этих мер недостаточно.

Расследование подчеркивает растущие проблемы регулирования контента, сгенерированного ИИ, и потенциал для злоупотребления этими технологиями. Эксперты подчеркивают необходимость надежных гарантий и этических принципов для предотвращения создания и распространения вредоносных дипфейков. "Это расследование является важным шагом в привлечении платформ социальных сетей к ответственности за контент, размещенный на их сайтах", - заявила доктор Эмили Картер, профессор этики ИИ в Оксфордском университете. "Оно посылает четкий сигнал о том, что компании должны активно устранять риски, связанные с контентом, сгенерированным ИИ, и защищать пользователей от вреда".

Результаты расследования Ofcom могут иметь серьезные последствия для X и других платформ социальных сетей, использующих ИИ. Это может привести к ужесточению правил и усилению контроля над контентом, сгенерированным ИИ, что потенциально повлияет на будущее онлайн-безопасности и модерации контента. Ofcom планирует опубликовать свои выводы в ближайшие месяцы. Расследование, вероятно, будет сосредоточено на политике модерации контента X, ее возможностях обнаружения ИИ и ее реакции на сообщения пользователей о дипфейк-контенте.