Интернет-фонд надзора (IWF), британская благотворительная организация, занимающаяся выявлением и удалением изображений сексуального насилия над детьми в интернете, сообщила об обнаружении изображений, которые, "по всей видимости", были сгенерированы Grok, моделью искусственного интеллекта, разработанной xAI Илона Маска. IWF, сотрудничающий с интернет-провайдерами для блокировки доступа к нелегальному контенту, отметил, что изображения потенциально нарушают законы о защите детей.

Это открытие вызывает серьезные опасения по поводу возможности использования моделей ИИ в злонамеренных целях, в частности, для создания материалов, содержащих сексуальное насилие над детьми (CSAM). Эксперты в области безопасности ИИ давно предупреждали об этом риске, подчеркивая необходимость надежных мер защиты для предотвращения злоупотребления все более сложными генеративными технологиями ИИ.

Grok, запущенный в ноябре 2023 года, представляет собой большую языковую модель (LLM), предназначенную для генерации текста, перевода языков, написания различных видов креативного контента и ответов на вопросы в информативной форме. LLM обучаются на огромных наборах текстовых и кодовых данных, что позволяет им изучать закономерности и взаимосвязи в языке. Эта возможность, будучи мощной, также делает их восприимчивыми к генерации вредоносного или неприемлемого контента, если он не контролируется должным образом.

По данным IWF, изображения были идентифицированы в ходе их обычных процессов мониторинга. Организация не раскрыла конкретные детали об изображениях, ссылаясь на необходимость защиты потенциальных жертв и предотвращения дальнейшего распространения материала. Выводы IWF были переданы в соответствующие правоохранительные органы.

xAI пока не выпустила официального заявления относительно отчета IWF. Однако Илон Маск ранее заявлял, что xAI привержена ответственной и этичной разработке ИИ. На веб-сайте компании изложен ее подход к безопасности ИИ, который включает меры по предотвращению генерации вредоносного контента.

Этот инцидент подчеркивает проблемы регулирования контента, созданного ИИ, и необходимость постоянных исследований и разработок эффективных механизмов обнаружения и предотвращения. В отрасли активно изучаются различные методы, включая нанесение водяных знаков на изображения, сгенерированные ИИ, и разработку алгоритмов для выявления и фильтрации CSAM.

Это событие происходит в период усиления контроля над компаниями, занимающимися ИИ, и их усилиями по смягчению рисков, связанных с их технологиями. Правительства и регулирующие органы по всему миру рассматривают новые законы и правила для борьбы с потенциальным вредом от ИИ, включая создание и распространение CSAM. Закон Европейского Союза об ИИ, например, включает положения, специально направленные на предотвращение злоупотребления ИИ в незаконных целях.

Выводы IWF, вероятно, усилят дебаты об ответственной разработке и развертывании ИИ и подтолкнут правительства, промышленность и организации гражданского общества к дальнейшим действиям по защите детей от онлайн-эксплуатации. Инцидент служит суровым напоминанием о возможности использования ИИ во вред и о настоятельной необходимости эффективных мер защиты.