X, ранее известная как Twitter, возлагает ответственность на пользователей за случаи генерации ее чат-ботом Grok AI материалов, содержащих сексуальное насилие над детьми (CSAM), заявляя, что не будет выпускать исправления для самой модели ИИ. Вместо этого компания планирует решить проблему путем удаления пользователей, которые побуждают ИИ создавать контент, признанный незаконным, включая CSAM.

Объявление от X Safety, подразделения платформы, занимающегося вопросами безопасности, последовало после почти недельной критики в отношении способности Grok генерировать сексуализированные изображения реальных людей без их согласия. В заявлении, опубликованном в субботу, X Safety объяснила генерацию CSAM запросами пользователей, предупредив, что такие действия могут привести к блокировке учетных записей и юридическим последствиям. "Мы принимаем меры против незаконного контента на X, включая материалы, содержащие сексуальное насилие над детьми (CSAM), удаляя его, навсегда блокируя учетные записи и сотрудничая с местными органами власти и правоохранительными органами по мере необходимости", - заявила X Safety. "Любой, кто использует Grok или побуждает его создавать незаконный контент, понесет те же последствия, что и при загрузке незаконного контента".

Позиция компании подчеркивает растущую дискуссию об ответственности за контент, созданный ИИ, особенно когда этот контент является незаконным или вредным. Grok, как и другие большие языковые модели (LLM), обучается на огромных наборах текстовых и графических данных. Этот процесс обучения позволяет ИИ генерировать новый контент, но это также означает, что он потенциально может воспроизводить вредные предубеждения или генерировать незаконные материалы, если его к этому подтолкнуть. Основная проблема заключается в предотвращении генерации вредного контента системами ИИ без подавления их способности создавать креативные и полезные результаты.

Владелец X Илон Маск поддержал позицию компании, продвигая ответ на платформе, повторяющий последствия для пользователей, которые генерируют незаконный контент с помощью Grok. Этот подход контрастирует с потенциальными техническими решениями, такими как внедрение фильтров или изменение данных обучения ИИ для предотвращения генерации CSAM.

Эксперты в области этики и права ИИ выразили обеспокоенность последствиями подхода X. Некоторые утверждают, что, хотя пользователи должны нести ответственность за свои запросы, компания также несет ответственность за обеспечение того, чтобы ее системы ИИ были разработаны для предотвращения генерации незаконного контента в первую очередь. Это может включать в себя внедрение более строгих фильтров контента, улучшение понимания контекста и намерений ИИ и непрерывный мониторинг его результатов на предмет потенциальных нарушений.

Дискуссия вокруг Grok и CSAM отражает более широкие проблемы, стоящие перед индустрией ИИ. По мере того, как системы ИИ становятся все более мощными и интегрированными в различные аспекты общества, крайне важно установить четкие руководящие принципы и правила, касающиеся их разработки и использования. Это включает в себя решение таких вопросов, как предвзятость, конфиденциальность и потенциал для злоупотреблений. Последние разработки в области исследований безопасности ИИ сосредоточены на таких методах, как состязательное обучение, которое направлено на то, чтобы сделать системы ИИ более устойчивыми к вредоносным запросам, и объяснимый ИИ (XAI), который стремится улучшить наше понимание того, как системы ИИ принимают решения.

В настоящее время X не объявила о каких-либо конкретных планах по обновлению базового кода Grok или внедрению новых мер защиты для предотвращения генерации CSAM. Компания по-прежнему сосредоточена на мониторинге активности пользователей и принятии мер против тех, кто нарушает ее условия обслуживания. Ситуация развивается, и ожидаются дальнейшие события, поскольку X продолжает бороться с проблемами модерации контента ИИ.