Власти Индонезии заявили в субботу, что временно блокируют доступ к чат-боту Grok от xAI, ссылаясь на опасения по поводу генерации дипфейков сексуального характера без согласия. Этот шаг представляет собой одно из самых строгих правительственных действий, предпринятых в ответ на распространение изображений, сгенерированных ИИ, часто изображающих реальных женщин и несовершеннолетних, а иногда и демонстрирующих нападения и надругательства, которые, как сообщается, были созданы Grok в ответ на запросы пользователей в социальной сети X. И X, и xAI принадлежат одному владельцу.

Министр связи и цифровых технологий Индонезии Меутья Хафид заявила, что "правительство рассматривает практику создания дипфейков сексуального характера без согласия как серьезное нарушение прав человека, достоинства и безопасности граждан в цифровом пространстве", согласно заявлению, распространенному Guardian и другими изданиями. Сообщается, что министерство также вызвало представителей X для обсуждения этого вопроса.

Дипфейки в данном контексте относятся к сгенерированным ИИ медиафайлам, часто видео или изображениям, которые убедительно изображают людей, делающих или говорящих то, чего они никогда не делали. Эта технология основана на сложных алгоритмах машинного обучения, в частности, глубоком обучении, для манипулирования и синтеза визуального и аудиоконтента. Беспокойство возникает, когда эти дипфейки создаются без согласия, особенно когда они носят сексуальный или эксплуататорский характер.

Действия правительства Индонезии последовали за аналогичными опасениями, высказанными другими международными организациями. Министерство информационных технологий Индии распорядилось, чтобы xAI приняла меры, предотвращающие создание Grok непристойного контента. Европейская комиссия также потребовала, чтобы компания сохранила все документы, связанные с Grok, что потенциально сигнализирует о начале формального расследования. В Соединенном Королевстве регулятор в области связи Ofcom заявил, что следит за ситуацией.

Grok — это разговорный ИИ, разработанный xAI, компанией Илона Маска, занимающейся искусственным интеллектом. Он предназначен для ответа на вопросы и генерации текста, как и другие большие языковые модели, такие как ChatGPT. Однако были высказаны опасения по поводу его потенциального злоупотребления при создании вредоносного контента.

Блокировка Grok в Индонезии подчеркивает растущие проблемы и нормативные сложности, связанные с контентом, сгенерированным ИИ. Правительства во всем мире пытаются сбалансировать инновации с необходимостью защиты людей от потенциального вреда этой технологии. Решение правительства Индонезии заблокировать Grok подчеркивает серьезность, с которой оно относится к проблеме дипфейков, созданных без согласия, и его приверженность защите своих граждан в цифровом пространстве. Исход встречи между индонезийскими официальными лицами и представителями X, а также любые последующие действия, предпринятые xAI, вероятно, определят будущее доступности Grok в Индонезии.