Власти Индонезии и Малайзии временно заблокировали доступ к чат-боту Grok от xAI в ответ на генерацию дипфейков сексуального характера без согласия. Эти действия представляют собой наиболее решительные меры правительств в отношении распространения изображений, созданных искусственным интеллектом, часто изображающих реальных женщин и несовершеннолетних, а иногда и содержащих контент насильственного характера, созданных Grok по запросу пользователей в социальной сети X. И X, и xAI являются частью одной и той же компании.

Министр связи и цифровых технологий Индонезии Мутья Хафид заявила в субботу, что "правительство рассматривает практику создания сексуальных дипфейков без согласия как серьезное нарушение прав человека, достоинства и безопасности граждан в цифровом пространстве", согласно заявлению, распространенному Guardian и другими изданиями. Индонезийское министерство также, как сообщается, вызвало представителей X для обсуждения этого вопроса. The New York Times сообщила, что правительство Малайзии объявило об аналогичном запрете в воскресенье.

Дипфейки, образованные от слов "deep learning" (глубокое обучение) и "fake" (подделка), представляют собой синтетические медиа, в которых человек на существующем изображении или видео заменяется другим человеком с использованием искусственного интеллекта. Эта технология основана на сложных алгоритмах машинного обучения, в частности, глубоких нейронных сетях, для анализа и синтеза визуальных и аудиоданных, создавая очень реалистичный, но сфабрикованный контент. Относительная легкость, с которой сейчас можно создавать и распространять эти дипфейки, вызвала серьезные этические и юридические опасения, особенно в отношении согласия, конфиденциальности и потенциальной возможности злоупотребления в кампаниях преследования и дезинформации.

Запреты в Индонезии и Малайзии последовали за другими правительственными мерами, принятыми в ответ на результаты работы Grok. Министерство информационных технологий Индии приказало xAI принять меры для предотвращения генерации Grok непристойного контента. Европейская комиссия издала приказ компании сохранить все документы, связанные с Grok, что потенциально создает основу для формального расследования.

Влияние этих правительственных мер на отрасль еще предстоит оценить. Эти шаги подчеркивают растущее внимание, с которым сталкиваются разработчики ИИ в отношении потенциального злоупотребления их технологиями. xAI пока не опубликовала публичного заявления относительно запретов или конкретных мер, которые она намерена принять для решения проблем, поднятых правительствами Индонезии и Малайзии. Ситуация развивается, и ожидаются дальнейшие события по мере продолжения обсуждений между правительственными чиновниками и xAI.