Власти Индонезии и Малайзии временно заблокировали доступ к чат-боту Grok от xAI из-за опасений по поводу создания дипфейков сексуального характера без согласия. Эти действия представляют собой наиболее решительную реакцию правительств на распространение сгенерированных ИИ изображений, часто изображающих реальных женщин и несовершеннолетних, а иногда и содержащих контент насильственного характера, созданных Grok в ответ на запросы пользователей в социальной сети X. И X, и xAI являются частью одной и той же компании.

Министр связи и цифровых технологий Индонезии Меутья Хафид заявила, что правительство считает создание сексуальных дипфейков без согласия серьезным нарушением прав человека, достоинства и безопасности граждан в цифровой сфере. Ее заявление было передано Guardian и другим новостным агентствам в субботу. Индонезийское министерство, как сообщается, также вызвало представителей X для обсуждения этого вопроса. The New York Times сообщила, что правительство Малайзии объявило об аналогичном запрете в воскресенье.

Дипфейки, образованные от слов "deep learning" (глубокое обучение) и "fake" (подделка), представляют собой синтетические медиа, в которых человек на существующем изображении или видео заменяется чьим-то другим подобием. Эта технология использует искусственный интеллект, в частности методы глубокого обучения, для создания очень реалистичного, но сфабрикованного контента. Доступность и растущая сложность технологии дипфейков вызвали серьезные этические и юридические опасения, особенно в отношении согласия, конфиденциальности и потенциального злоупотребления при создании клеветнического или вредоносного контента.

Запреты в Индонезии и Малайзии последовали за другими правительственными мерами, направленными на решение проблемы непристойного контента, сгенерированного ИИ. Министерство информационных технологий Индии приказало xAI принять меры, предотвращающие создание Grok подобных материалов. Европейская комиссия также запросила у xAI все документы, связанные с Grok, что потенциально может подготовить почву для формального расследования.

Влияние этих правительственных мер на отрасль еще предстоит увидеть, но они сигнализируют о растущей готовности регулирующих органов вмешиваться в разработку и развертывание технологий ИИ, которые считаются вредными или неэтичными. Grok, флагманский чат-бот xAI, предназначен для ответов на вопросы и предоставления информации в разговорной форме. Его интеграция с X позволяет пользователям получать доступ к чат-боту непосредственно в социальной сети. Временные запреты в Индонезии и Малайзии, вероятно, повлияют на пользовательскую базу xAI и потенциально повлияют на разработку политики модерации контента для платформ на базе ИИ.

В настоящее время ведутся обсуждения между правительственными чиновниками и представителями xAI. Следующие шаги, вероятно, будут включать внедрение xAI более строгих фильтров контента и механизмов модерации для предотвращения создания неприемлемого контента. Правительства Индонезии и Малайзии, вероятно, пересмотрят свои запреты в зависимости от эффективности этих мер.