Интернет-фонд надзора (IWF) сообщил об обнаружении изображений сексуального характера с участием детей, которые, «по всей видимости», были созданы с использованием Grok, чат-бота с искусственным интеллектом, разработанного xAI. IWF, базирующаяся в Великобритании организация, занимающаяся выявлением и удалением материалов, содержащих сексуальное насилие над детьми (CSAM), в интернете, сделала это открытие в ходе планового мониторинга.

По данным IWF, изображения были сгенерированы с помощью запросов, отправленных в Grok. Хотя организация не предоставила конкретных сведений об изображениях или запросах, использованных для их создания, она подтвердила, что материал был классифицирован как CSAM в соответствии с установленными ею критериями. IWF немедленно сообщила о находках в xAI.

«Нашим приоритетом является безопасность детей в интернете, и мы действуем быстро, чтобы выявлять и удалять CSAM, где бы они ни находились», — заявила Сьюзи Харгривз, кавалер Ордена Британской империи (OBE), генеральный директор IWF. «Мы работаем с xAI, чтобы гарантировать, что Grok не используется для создания этих отвратительных материалов».

xAI подтвердила получение отчета IWF и заявила, что относится к этому вопросу «чрезвычайно серьезно». В своем заявлении компания сообщила, что проводит расследование инцидента и принимает меры для предотвращения подобных случаев в будущем. Сообщается, что эти меры включают в себя совершенствование контентных фильтров и протоколов безопасности Grok для более эффективного обнаружения и блокировки запросов, которые могут быть использованы для создания CSAM.

Grok, запущенный в ноябре 2023 года, представляет собой большую языковую модель (LLM), предназначенную для генерации текста, перевода языков, написания различных видов креативного контента и ответов на вопросы в информативной форме. LLM, такие как Grok, обучаются на огромных наборах текстовых и кодовых данных, что позволяет им генерировать текст, похожий на человеческий. Однако эта технология также сопряжена с рисками, включая возможность злоупотребления при создании вредоносного контента.

Этот инцидент подчеркивает постоянные проблемы, с которыми сталкиваются разработчики ИИ в предотвращении злоупотребления их технологиями. Эксперты в этой области подчеркивают необходимость надежных механизмов безопасности и постоянного мониторинга для смягчения рисков, связанных с LLM. «Разработчики ИИ несут ответственность за то, чтобы их продукты не использовались для создания или распространения CSAM», — сказала доктор Эмили Картер, профессор этики ИИ в Стэнфордском университете. «Это требует многогранного подхода, включая расширенную фильтрацию контента, обучение пользователей и сотрудничество с такими организациями, как IWF».

Обнаружение CSAM, сгенерированных Grok, вызывает опасения по поводу потенциального использования ИИ в злонамеренных целях. Это также подчеркивает важность постоянного сотрудничества между разработчиками ИИ, правоохранительными органами и организациями по защите детей для борьбы с сексуальным насилием над детьми в интернете. IWF продолжает работать с xAI и другими технологическими компаниями для решения этой проблемы и обеспечения безопасности детей в интернете. Расследование продолжается, и ожидаются дальнейшие обновления по мере того, как xAI будет внедрять свои превентивные меры.