Индонезия заблокировала доступ к чат-боту Grok Илона Маска, сославшись на опасения по поводу потенциальной возможности ИИ генерировать дипфейк-изображения сексуального характера без согласия. Министр связи и цифровых технологий страны объявил о временном запрете в субботу, заявив, что создание и распространение таких дипфейков является серьезным нарушением прав человека, достоинства и безопасности граждан в цифровой сфере.

Это решение делает Индонезию первой страной, публично ограничившей доступ к Grok из-за проблемы дипфейков. Министр Меутья Х. подчеркнула приверженность правительства защите женщин, детей и широкой общественности от опасностей, связанных с порнографическим контентом, созданным с помощью ИИ. Конкретный механизм, с помощью которого Grok позволял создавать эти изображения, заключался в том, что пользователи могли изменять существующие онлайн-изображения, включая удаление одежды.

Дипфейки, образованные от слов "deep learning" (глубокое обучение) и "fake" (подделка), представляют собой синтетические медиа, в которых человек на существующем изображении или видео заменяется чьим-то другим подобием с использованием искусственного интеллекта. Эта технология, обладая законным применением в таких областях, как развлечения и образование, вызвала серьезные этические и юридические опасения из-за ее потенциального злоупотребления, включая создание клеветнического контента, распространение дезинформации и производство порнографии без согласия.

Чат-бот Grok, разработанный AI-компанией Маска xAI, ранее сталкивался с пристальным вниманием и ограничениями в отношении своих возможностей генерации изображений после волны критики, связанной с дипфейками. Другие страны, включая Великобританию и членов Европейского Союза, также выразили обеспокоенность и оказали давление на X, ранее Twitter, с целью решения проблемы интимных дипфейк-изображений, сгенерированных Grok. В частности, ЕС отметил случаи "ужасающих детских дипфейков", созданных ИИ.

Действия правительства Индонезии подчеркивают растущую глобальную проблему регулирования технологий ИИ для смягчения потенциального вреда при одновременном стимулировании инноваций. Инцидент подчеркивает необходимость для разработчиков внедрять надежные меры защиты для предотвращения злоупотребления инструментами ИИ, а для правительств - устанавливать четкие правовые рамки для решения этических и социальных последствий дипфейков. Запрет остается в силе, пока индонезийские власти оценивают меры xAI по предотвращению создания и распространения вредоносного контента. Будущие события, вероятно, будут включать обсуждения между индонезийскими официальными лицами и xAI относительно потенциальных решений и мер защиты, которые могли бы позволить Grok работать в стране, соблюдая местные законы и этические стандарты.