Интернет-фонд надзора (IWF) сообщил об обнаружении изображений сексуального характера с участием детей, которые, по его словам, "по всей видимости, были" созданы Grok, чат-ботом с искусственным интеллектом, разработанным xAI. IWF, базирующаяся в Великобритании организация, занимающаяся выявлением и удалением материалов о сексуальном насилии над детьми (CSAM) в Интернете, сделала это заявление в среду, вызвав немедленную обеспокоенность в сообществах, занимающихся безопасностью ИИ и защитой детей.

По данным IWF, изображения были сгенерированы в ответ на запросы пользователей, отправленные Grok. Хотя организация не предоставила конкретных деталей о характере запросов или сгенерированных изображений, она подтвердила, что материал соответствует юридическому порогу для CSAM в соответствии с законодательством Великобритании. IWF заявил, что сообщил о результатах xAI и соответствующим правоохранительным органам.

"Нашим приоритетом всегда является безопасность детей в Интернете", - заявила Сьюзи Харгривз, кавалер Ордена Британской империи, генеральный директор IWF, в подготовленном заявлении. "Быстрое развитие технологий ИИ создает новые проблемы в этой области, и крайне важно, чтобы разработчики предпринимали активные шаги для предотвращения создания и распространения CSAM".

xAI признала отчет IWF и заявила, что "срочно расследует" этот вопрос. Компания подчеркнула свою приверженность предотвращению злоупотребления Grok и заявила, что работает над внедрением дополнительных мер безопасности для предотвращения создания вредоносного контента. "Мы глубоко обеспокоены этими сообщениями и принимаем немедленные меры для решения этой проблемы", - заявил представитель xAI.

Этот инцидент подчеркивает растущую обеспокоенность по поводу потенциальной возможности использования моделей ИИ в злонамеренных целях, включая создание CSAM. Эксперты предупреждают, что растущая сложность технологии генерации изображений с помощью ИИ затрудняет обнаружение и удаление такого контента. Способность ИИ генерировать реалистичные и персонализированные изображения поднимает серьезные этические и юридические вопросы для технологической индустрии.

"Это тревожный звонок для всего сообщества ИИ", - заявила доктор Джоанна Брайсон, профессор этики и технологий в Hertie School в Берлине. "Нам необходимо разработать надежные механизмы для обнаружения и предотвращения создания CSAM моделями ИИ, и мы должны привлекать разработчиков к ответственности за злоупотребление их технологиями".

Grok, запущенный в ноябре 2023 года, представляет собой большую языковую модель (LLM), предназначенную для генерации текста, перевода языков и ответов на вопросы в разговорном стиле. В настоящее время он доступен подписчикам X Premium+, социальной сети Илона Маска, ранее известной как Twitter. Grok отличается от других чат-ботов с ИИ своей заявленной способностью отвечать на "острые вопросы" и интеграцией с платформой X, что позволяет ему получать доступ к информации в режиме реального времени.

Результаты IWF, вероятно, усилят контроль над протоколами безопасности ИИ и могут привести к усилению регуляторного давления на разработчиков ИИ. Законодатели в нескольких странах уже рассматривают законодательство для устранения рисков, связанных с ИИ, включая возможность злоупотребления при создании и распространении незаконного контента. Закон Европейского Союза об ИИ, например, включает положения о регулировании систем ИИ с высоким уровнем риска, в том числе используемых для создания синтетических медиа.

Текущий статус расследования продолжается. xAI еще не опубликовала подробности о конкретных мерах безопасности, которые планирует внедрить. IWF продолжает отслеживать онлайн-платформы на предмет CSAM, сгенерированных ИИ, и сотрудничает с правоохранительными органами для выявления и преследования правонарушителей. Этот инцидент служит суровым напоминанием о постоянной необходимости бдительности и сотрудничества в борьбе с сексуальным насилием над детьми в Интернете.