Индонезийские власти в субботу сообщили о временной блокировке доступа к чат-боту Grok от xAI в связи с распространением созданных с помощью ИИ дипфейков сексуального характера, сделанных без согласия изображенных на них людей. Этот шаг является одним из самых строгих правительственных действий, предпринятых на сегодняшний день в отношении сгенерированных ИИ изображений, на которых изображены реальные женщины и несовершеннолетние, иногда включая сцены насилия и надругательств, созданные Grok на основе запросов пользователей в социальной сети X.

Министр связи и цифровых технологий Индонезии Меутья Хафид заявила, что "правительство рассматривает практику создания сексуальных дипфейков без согласия как серьезное нарушение прав человека, достоинства и безопасности граждан в цифровом пространстве", согласно заявлению, распространенному среди The Guardian и других изданий. Сообщается, что министерство также вызвало представителей X для обсуждения этого вопроса. X и xAI принадлежат одному владельцу.

Дипфейки, образованные от слов "deep learning" (глубокое обучение) и "fake" (подделка), представляют собой синтетические медиа, в которых человек на существующем изображении или видео заменяется на другого человека с использованием искусственного интеллекта. Эта технология основана на сложных алгоритмах, часто с использованием нейронных сетей, для анализа и воспроизведения выражений лица, речевых паттернов и движений тела, что затрудняет отличие дипфейков от подлинного контента.

Действия правительства Индонезии последовали за аналогичными опасениями, высказанными другими международными организациями. Министерство информационных технологий Индии приказало xAI принять меры, предотвращающие создание Grok непристойного контента. Одновременно с этим Европейская комиссия поручила компании сохранить все документы, связанные с Grok, что может сигнализировать о прелюдии к формальному расследованию. В Соединенном Королевстве Ofcom, регулятор в области связи, также занимался этим вопросом.

Grok, разработанный xAI, представляет собой большую языковую модель (LLM), предназначенную для генерации текста, похожего на человеческий. LLM обучаются на огромных наборах текстовых данных и кода, что позволяет им выполнять различные задачи, включая ответы на вопросы, написание различных видов креативного контента и перевод языков. Однако способность этой технологии генерировать реалистичный и персонализированный контент также вызывает опасения по поводу ее потенциального злоупотребления, особенно при создании обманчивого или вредоносного контента.

Влияние этих регуляторных мер на индустрию значительно и может привести к ужесточению правил и надзора за разработчиками ИИ. Компании, создающие LLM, могут столкнуться с усилением давления с целью внедрения мер защиты, предотвращающих создание вредоносного контента, включая сексуализированные дипфейки. Это может включать разработку более совершенных фильтров контента, улучшение процессов проверки пользователей и внедрение более строгих условий обслуживания.

В настоящее время Grok временно заблокирован в Индонезии в ожидании дальнейших обсуждений между индонезийскими официальными лицами и представителями X. Исход этих обсуждений и действия, предпринятые xAI в ответ на международные опасения, вероятно, определят будущее доступности Grok в Индонезии и потенциально повлияют на нормативно-правовую базу для чат-ботов на базе ИИ во всем мире.