Ofcom, британский регулятор в сфере коммуникаций, официально запросил у X (ранее Twitter) информацию в связи с сообщениями о том, что его AI-модель Grok генерирует изображения детей сексуального характера. Этот запрос последовал за растущей обеспокоенностью по поводу потенциального злоупотребления генеративными AI-технологиями и их способностью создавать вредоносный контент.

Регулятор запрашивает подробную информацию о конкретных мерах защиты, которые X внедрила для предотвращения создания Grok таких изображений, а также о мерах, принятых для обнаружения и удаления любых случаев злоупотребления. Расследование Ofcom подчеркивает растущее внимание к разработчикам AI и их ответственности за смягчение рисков, связанных со все более сложными AI-моделями.

Генеративный AI, такой как Grok, использует сложные алгоритмы, часто основанные на нейронных сетях глубокого обучения, для создания нового контента из существующих данных. Эти модели обучаются на огромных наборах данных изображений, текста и других медиафайлов, что позволяет им генерировать реалистичные и часто неотличимые результаты. Однако эта возможность также предоставляет злоумышленникам возможности для создания дипфейков, распространения дезинформации и, как утверждается в данном случае, создания материалов, содержащих сексуальное насилие над детьми (CSAM).

"Мы глубоко обеспокоены возможностью использования AI для создания вредоносного контента, особенно контента, эксплуатирующего детей", - заявил представитель Ofcom. "Мы взаимодействуем с X, чтобы понять, какие шаги они предпринимают для устранения этих рисков и обеспечения безопасности своих пользователей".

X подтвердила запрос Ofcom и заявила, что в полной мере сотрудничает в расследовании. Компания утверждает, что у нее действуют строгие правила, запрещающие создание и распространение CSAM, и что она активно работает над улучшением своих мер по обеспечению безопасности AI.

Этот инцидент высвечивает более широкие общественные проблемы, связанные с быстрым развитием AI. По мере того, как AI-модели становятся все более мощными и доступными, потенциал для злоупотреблений возрастает, что требует надежной нормативно-правовой базы и этических принципов. Эксперты подчеркивают необходимость постоянных исследований в области безопасности AI и разработки инструментов для обнаружения и предотвращения создания вредоносного контента.

"Это критический момент для управления AI", - заявила доктор Аня Шарма, исследователь, специализирующаяся на этике AI в Оксфордском университете. "Нам необходимо установить четкие линии ответственности и обеспечить, чтобы разработчики AI несли ответственность за потенциальный вред, который могут причинить их технологии".

Результаты расследования Ofcom могут иметь серьезные последствия для регулирования AI в Великобритании и за ее пределами. Это может привести к более строгому соблюдению существующих законов и разработке новых правил, специально направленных на борьбу со злоупотреблением генеративным AI. Расследование продолжается, и Ofcom планирует опубликовать свои выводы в ближайшие месяцы.