Ofcom, британский регулятор в сфере коммуникаций, начал расследование в отношении социальной сети X, принадлежащей Илону Маску и ранее известной как Twitter, в связи с обеспокоенностью по поводу распространения дипфейков сексуального характера, сгенерированных Grok, чат-ботом X на основе искусственного интеллекта. Расследование, о котором было объявлено в среду, сосредоточено на том, в достаточной ли мере X защищает своих пользователей, особенно детей, от вредоносного контента, созданного с помощью этого инструмента ИИ.

В ходе проверки будет изучено соблюдение компанией X Закона о безопасности в интернете (Online Safety Act), который возлагает на платформы юридическую обязанность проявлять заботу о защите пользователей от незаконного и вредоносного контента. Ofcom, в частности, оценит эффективность систем и процессов X для выявления и удаления сгенерированных ИИ сексуальных дипфейков, а также мер, направленных на предотвращение доступа пользователей к таким материалам.

Дипфейки, образованные от слов "deep learning" (глубокое обучение) и "fake" (подделка), представляют собой синтетические медиафайлы, в которых изображение или видео существующего человека заменяется изображением другого человека. Эта технология, основанная на сложных алгоритмах ИИ, может использоваться для создания реалистичного, но полностью сфабрикованного контента. Хотя дипфейки имеют различные потенциальные применения, включая развлечения и образование, они также создают значительные риски, особенно при использовании для создания порнографии без согласия или распространения дезинформации. Относительная легкость, с которой сейчас можно создавать и распространять убедительные дипфейки, вызвала серьезные опасения по поводу их потенциального вреда для отдельных лиц и общества.

"Защита детей в интернете не подлежит обсуждению, и Закон о безопасности в интернете дает нам инструменты для привлечения платформ к ответственности", - заявил представитель Ofcom в своем заявлении. "Мы проводим расследование в отношении X, чтобы убедиться, что они предпринимают необходимые шаги для предотвращения распространения вредоносного контента, сгенерированного ИИ".

X пока не опубликовала официального заявления относительно расследования Ofcom. Однако Илон Маск ранее заявлял, что X привержена борьбе с распространением вредоносного контента на своей платформе и активно работает над улучшением своих систем модерации контента.

Это расследование проводится на фоне растущего глобального внимания к потенциальному вреду, связанному с контентом, сгенерированным ИИ. Правительства и регулирующие органы по всему миру пытаются понять, как регулировать эту быстро развивающуюся технологию, одновременно стимулируя инновации. Европейский союз, например, завершает работу над своим Законом об ИИ (AI Act), который установит всеобъемлющую правовую базу для разработки и внедрения ИИ.

Результаты расследования Ofcom могут иметь серьезные последствия для X и других платформ социальных сетей, которые все чаще включают ИИ в свои сервисы. Если Ofcom обнаружит, что X не смогла в достаточной мере защитить своих пользователей от вредоносного контента, сгенерированного ИИ, ей могут грозить значительные штрафы и потребуется внедрить более строгие меры по модерации контента. Расследование продолжается, и Ofcom планирует представить обновленную информацию о своих выводах в ближайшие месяцы.