Индонезийские официальные лица в субботу сообщили о временной блокировке доступа к чат-боту Grok от xAI, ссылаясь на опасения по поводу генерации дипфейков сексуального характера без согласия. Этот шаг представляет собой одно из самых решительных правительственных действий, предпринятых в ответ на распространение изображений, сгенерированных ИИ, часто изображающих реальных женщин и несовершеннолетних в откровенно сексуальных и оскорбительных сценариях, которые пользователи могли генерировать через Grok в социальной сети X. И X, и xAI принадлежат одному владельцу.

Министр связи и цифровых технологий Индонезии Меутья Хафид заявила, что "Правительство рассматривает практику создания сексуальных дипфейков без согласия как серьезное нарушение прав человека, достоинства и безопасности граждан в цифровом пространстве", согласно заявлению, распространенному Guardian и другими изданиями. Сообщается, что министерство также вызвало представителей X для обсуждения этого вопроса.

Дипфейки в данном контексте относятся к сгенерированным ИИ медиафайлам, обычно изображениям или видео, которые убедительно изображают людей, делающих или говорящих то, чего они на самом деле никогда не делали. Grok, чат-бот xAI, использует большие языковые модели (LLM) для генерации текста и, в некоторых случаях, изображений на основе запросов пользователей. Опасения возникают, когда эти LLM используются для создания реалистичного, но сфабрикованного сексуального контента без согласия изображенных лиц.

Этот инцидент подчеркивает растущую проблему регулирования контента, сгенерированного ИИ, и потенциальную возможность злоупотребления мощными генеративными инструментами ИИ. Воздействие на отрасль может быть значительным, что потенциально приведет к ужесточению правил и усилению контроля над политикой модерации контента компаний, занимающихся ИИ.

Другие правительственные органы также приняли меры. Министерство информационных технологий Индии приказало xAI предотвратить генерацию Grok непристойного контента. Европейская комиссия запросила у компании все документы, касающиеся Grok, что потенциально создает основу для формального расследования. В Соединенном Королевстве регулятор связи Ofcom прокомментировал этот вопрос.

Блокировка Grok в Индонезии остается временной и действует до дальнейших обсуждений между индонезийскими официальными лицами и представителями X. Результат этих обсуждений, вероятно, повлияет на будущую доступность Grok в Индонезии и может создать прецедент для того, как другие страны будут решать проблему дипфейков, сгенерированных ИИ.