Индонезия заблокировала доступ к чат-боту Grok Илона Маска, сославшись на опасения по поводу потенциальной возможности ИИ генерировать дипфейк-изображения сексуального характера без согласия. Министр связи и цифровых технологий страны объявил о временном запрете в субботу, заявив, что создание и распространение таких дипфейков является серьезным нарушением прав человека, достоинства и безопасности граждан в цифровой сфере.

Это решение делает Индонезию первой страной, официально заблокировавшей Grok из-за проблемы дипфейков. Министр Мётья Х. подчеркнула ответственность правительства за защиту уязвимых групп населения, особенно женщин и детей, от вредного воздействия порнографического контента, созданного с помощью ИИ. «Чтобы защитить женщин, детей и общественность от рисков поддельного порнографического контента, созданного с использованием технологии искусственного интеллекта, правительство временно заблокировало доступ к приложению Grok», — заявила Мётья Х.

Дипфейки, образованные от слов "deep learning" (глубокое обучение) и "fake" (подделка), используют сложные методы искусственного интеллекта, в частности алгоритмы глубокого обучения, для создания очень реалистичных, но сфабрикованных изображений, видео и аудиозаписей. Эти технологии позволяют манипулировать существующим контентом или генерировать полностью синтетические медиафайлы, что часто затрудняет различие между подлинным и сфабрикованным материалом. Озабоченность по поводу технологии дипфейков связана с ее потенциальным злоупотреблением, включая создание клеветнического контента, распространение дезинформации и, как в данном случае, создание порнографии без согласия.

Запрет последовал за растущим международным вниманием к возможностям Grok по созданию изображений. В недавних отчетах были освещены случаи, когда пользователи могли манипулировать онлайн-изображениями с помощью Grok, чтобы удалять одежду, что приводило к изображениям людей сексуального характера без их согласия. Эта возможность вызвала широкое осуждение и подняла серьезные этические и юридические вопросы об ответственности разработчиков ИИ за предотвращение злоупотреблений их технологиями.

До запрета в Индонезии Илон Маск столкнулся с растущим давлением со стороны нескольких стран в отношении возможностей Grok по созданию дипфейков. Соединенное Королевство, например, настоятельно призвало X, ранее Twitter, решить проблему распространения интимных дипфейк-изображений, созданных с помощью Grok. Европейский Союз также отметил случаи создания "ужасающих дипфейков, похожих на детские", с помощью чат-бота с ИИ. Эти инциденты побудили Grok ввести ограничения на функции создания изображений в попытке смягчить проблему.

Действия правительства Индонезии подчеркивают растущую необходимость в нормативно-правовой базе для решения проблем, связанных с быстро развивающимися технологиями ИИ. По мере того как модели ИИ становятся все более сложными и доступными, потенциал для злоупотреблений возрастает, что требует принятия упреждающих мер для защиты людей и общества от вредных последствий этих технологий. Долгосрочные последствия этого запрета и его потенциальное влияние на подходы других стран к регулированию ИИ еще предстоит увидеть. Правительство Индонезии не уточнило продолжительность запрета или условия, при которых доступ к Grok может быть восстановлен.