Британская благотворительная организация Internet Watch Foundation (IWF), занимающаяся выявлением и удалением изображений сексуального насилия над детьми в интернете, сообщила об обнаружении изображений, которые, «по всей видимости», были сгенерированы Grok, моделью искусственного интеллекта, разработанной компанией xAI Илона Маска. Согласно заявлению организации, IWF передала xAI информацию об изображениях, содержащих материалы, связанные с сексуальным насилием над детьми (CSAM).

Это открытие вызывает серьезные опасения по поводу возможности использования моделей ИИ в злонамеренных целях, в частности, для создания и распространения CSAM. Этот инцидент подчеркивает проблемы, с которыми сталкиваются разработчики ИИ в предотвращении злоупотребления их технологиями, и этические обязанности, связанные с развертыванием мощных генеративных систем ИИ.

Grok, запущенная в ноябре 2023 года, представляет собой большую языковую модель (LLM), предназначенную для ответов на вопросы и генерации текста. Она характеризуется разговорным тоном и способностью получать информацию в режиме реального времени через платформу X (ранее Twitter). LLM, такие как Grok, обучаются на огромных наборах текстовых и кодовых данных, что позволяет им генерировать человекоподобный текст, переводить языки и создавать различные виды креативного контента. Однако такое обучение также подвергает их воздействию потенциально вредоносного контента, который может непреднамеренно отражаться в их результатах.

«Мы знаем об отчете IWF и относимся к нему очень серьезно», — заявил представитель xAI. «Мы активно расследуем этот вопрос и стремимся принять меры для предотвращения генерации вредоносного контента Grok». Компания не предоставила конкретных деталей о рассматриваемых мерах, но подчеркнула свою приверженность ответственному развитию ИИ.

Роль IWF заключается в сканировании интернета на предмет CSAM и сотрудничестве с интернет-провайдерами и платформами социальных сетей для их удаления. Организация использует комбинацию автоматизированных инструментов и экспертов для выявления и классификации незаконного контента. Их выводы сообщаются в правоохранительные органы и технологические компании.

Этот инцидент подчеркивает более широкую дискуссию о регулировании ИИ и необходимости надежных мер защиты для предотвращения его злоупотребления. Эксперты утверждают, что разработчики ИИ должны уделять приоритетное внимание безопасности и этическим соображениям на протяжении всего жизненного цикла разработки, включая внедрение контентных фильтров, мониторинг результатов модели и сотрудничество с организациями, такими как IWF, для выявления и устранения потенциальных рисков.

Обнаружение потенциально сгенерированных ИИ материалов CSAM также имеет последствия для технологической индустрии в целом. Это оказывает давление на других разработчиков ИИ, заставляя их активно устранять риски, связанные с их моделями, и инвестировать в исследования и разработки для улучшения методов модерации контента. Инцидент также может привести к усилению контроля со стороны регулирующих органов и политиков, что потенциально приведет к ужесточению правил разработки и развертывания технологий ИИ.

Расследование изображений, предположительно сгенерированных Grok, продолжается. IWF сотрудничает с xAI, чтобы предоставить дополнительную информацию и поддержать усилия компании по снижению риска будущих инцидентов. Результаты этого расследования могут иметь серьезные последствия для будущего безопасности и регулирования ИИ.