Ofcom, британский регулятор в сфере коммуникаций, официально запросил информацию у X, ранее известной как Twitter, в связи с сообщениями о том, что ее AI-модель Grok генерирует изображения детей сексуального характера. Запрос последовал за растущей обеспокоенностью по поводу потенциального злоупотребления искусственным интеллектом при создании вредоносного контента и сложностей регулирования быстро развивающихся AI-технологий.

Расследование регулятора сосредоточено на оценке того, предпринимает ли X достаточные меры для предотвращения создания и распространения таких изображений, и достаточно ли ее механизмов безопасности для защиты детей. Ofcom имеет право штрафовать компании, которые не защищают пользователей от вредоносного контента, и это расследование сигнализирует о серьезной обеспокоенности по поводу соблюдения компанией X законодательства Великобритании.

"Мы глубоко обеспокоены возможностью злоупотребления AI-моделями таким образом", - заявил представитель Ofcom. "Мы попросили X предоставить нам подробную информацию о мерах, которые они принимают для предотвращения создания и распространения изображений детей сексуального характера с использованием их AI-модели Grok".

Grok, AI-чатбот X, является большой языковой моделью (LLM), типом AI, обученным на огромных объемах текстовых данных для генерации текста, подобного человеческому, перевода языков и ответов на вопросы. LLM изучают закономерности из данных, на которых они обучены, и если эти данные включают вредоносный контент, модель может непреднамеренно воспроизводить или усиливать этот вред. В данном случае возникли опасения, что Grok может генерировать изображения, которые эксплуатируют, оскорбляют или подвергают опасности детей.

Задача предотвращения генерации AI-моделями вредоносного контента является сложной. AI-разработчики используют различные методы, такие как фильтрация обучающих данных, внедрение защитных мер и мониторинг результатов модели, чтобы снизить риск злоупотребления. Однако эти методы не всегда надежны, и целеустремленные пользователи иногда могут найти способы их обойти. Это часто называют "взломом" AI.

"Это постоянная гонка вооружений", - объясняет доктор Аня Шарма, исследователь этики AI в Оксфордском университете. "По мере того как разработчики совершенствуют механизмы безопасности, пользователи находят новые способы их обхода. Нам нужен многогранный подход, который включает в себя технические решения, этические принципы и надежное регулирование".

Этот инцидент подчеркивает более широкие социальные последствия развития AI. По мере того как AI-модели становятся все более мощными и доступными, потенциал для злоупотреблений возрастает. Это поднимает вопросы об ответственности AI-разработчиков, роли государственного регулирования и необходимости просвещения общественности о рисках и преимуществах AI.

X подтвердила запрос Ofcom и заявила, что в полной мере сотрудничает с расследованием. Компания также подчеркнула свою приверженность безопасности и свои усилия по предотвращению злоупотребления своими AI-моделями.

"Мы очень серьезно относимся к этим опасениям", - говорится в заявлении X. "Мы постоянно работаем над улучшением наших мер безопасности и предотвращением генерации вредоносного контента. Мы в полной мере сотрудничаем с расследованием Ofcom и предоставим им всю необходимую информацию".

Расследование Ofcom продолжается, и регулятор, как ожидается, опубликует свои выводы в надлежащее время. Результаты расследования могут иметь значительные последствия для X и других AI-разработчиков, потенциально приведя к ужесточению правил и усилению контроля над практиками безопасности AI. Этот случай подчеркивает острую необходимость в создании всеобъемлющей структуры для управления разработкой и внедрением AI, обеспечивающей его ответственное и этичное использование.