Власти Индонезии заявили в субботу, что временно блокируют доступ к чат-боту Grok от xAI, ссылаясь на опасения по поводу генерации дипфейков сексуального характера без согласия. Этот шаг представляет собой одну из самых жестких мер реагирования правительства на распространение сгенерированных ИИ изображений, изображающих реальных женщин и несовершеннолетних, включая изображения нападений и надругательств, которые, как сообщается, были созданы Grok в ответ на запросы пользователей в социальной сети X. X и xAI принадлежат одной и той же компании.

Министр связи и цифровых технологий Индонезии Меутья Хафид заявила, что правительство считает создание сексуальных дипфейков без согласия серьезным нарушением прав человека, достоинства и безопасности граждан в цифровой сфере. Ее заявление было передано The Guardian и другим новостным агентствам. Министерство также, как сообщается, вызвало представителей X для обсуждения этого вопроса.

Дипфейки, образованные от слов "deep learning" (глубокое обучение) и "fake" (подделка), используют искусственный интеллект, в частности методы глубокого обучения, для создания очень реалистичных, но сфабрикованных видео или изображений. Эти технологии могут убедительно заменять лица в существующих видео или генерировать совершенно новый синтетический контент. Озабоченность вызывает возможность злонамеренного использования, включая создание клеветнического контента, распространение дезинформации и, как в данном случае, создание порнографии без согласия.

Чат-бот Grok от xAI предназначен для ответов на вопросы в разговорном стиле и интегрирован в платформу X. По словам xAI, он отличается своей способностью отвечать на вопросы, от которых другие системы ИИ могут отказаться. Однако эта функция, по-видимому, способствовала созданию вредоносного контента.

Действия правительства Индонезии последовали за аналогичными опасениями, высказанными другими странами. Министерство информационных технологий Индии приказало xAI принять меры для предотвращения генерации Grok непристойного контента. Европейская комиссия также запросила у компании все документы, связанные с Grok, что потенциально сигнализирует о начале формального расследования. В Соединенном Королевстве регулятор в области связи Ofcom заявил о своей осведомленности об этой проблеме.

Блокировка Grok в Индонезии подчеркивает растущие проблемы регулирования, связанные с быстро развивающимися технологиями ИИ. Правительства во всем мире пытаются сбалансировать инновации с необходимостью защиты граждан от потенциального вреда, причиняемого контентом, сгенерированным ИИ. Решение правительства Индонезии заблокировать Grok, даже временно, сигнализирует о готовности принять решительные меры для решения этих проблем. Исход обсуждений между индонезийскими официальными лицами и представителями X еще предстоит увидеть, но он, вероятно, повлияет на будущую доступность и регулирование чат-ботов с ИИ в регионе.