Власти Индонезии и Малайзии временно заблокировали доступ к чат-боту Grok от xAI в связи с распространением созданных с помощью ИИ дипфейков сексуального характера, сделанных без согласия изображенных лиц. Эти действия представляют собой наиболее решительную реакцию правительств на всплеск изображений, сгенерированных ИИ, часто изображающих реальных женщин и несовершеннолетних, а иногда и содержащих сцены насилия, которые пользователи размещали через Grok в социальной сети X. И X, и xAI являются частью одной и той же компании.

Министр связи и цифровых технологий Индонезии Мутья Хафид заявила, что правительство считает создание и распространение сексуальных дипфейков без согласия серьезным нарушением прав человека, достоинства и безопасности граждан в цифровой сфере. Заявление Хафид было передано газете Guardian и другим новостным агентствам в субботу. Сообщается, что министерство Индонезии также вызвало представителей X для обсуждения этого вопроса. Газета New York Times сообщила, что правительство Малайзии объявило об аналогичном запрете в воскресенье.

Дипфейки, технически известные как синтетические медиа, используют искусственный интеллект, в частности методы глубокого обучения, для создания реалистичных, но сфабрикованных изображений, видео или аудиозаписей. В данном случае пользователи могли побуждать Grok генерировать откровенный и эксплуататорский контент с участием людей без их согласия. Полученные изображения затем распространялись в X, усугубляя вред.

Запреты в Индонезии и Малайзии последовали за другими правительственными мерами, принятыми в ответ на эту проблему. Министерство информационных технологий Индии приказало xAI принять меры для предотвращения создания Grok непристойного контента. Европейская комиссия также поручила компании сохранить все документы, связанные с Grok, что потенциально может подготовить почву для формального расследования возможностей и мер защиты ИИ.

Влияние этих запретов на отрасль может быть значительным. Они подчеркивают растущую обеспокоенность по поводу злоупотребления технологиями ИИ и потенциального вреда. Действия, предпринятые Индонезией и Малайзией, могут побудить другие страны рассмотреть аналогичные меры, что потенциально приведет к усилению регулирования платформ на базе ИИ и большему акценту на модерацию контента и безопасность пользователей. Инцидент также подчеркивает проблемы, с которыми сталкиваются разработчики ИИ в предотвращении злоупотребления своими технологиями, особенно в контексте генеративных моделей ИИ, таких как Grok, которые предназначены для ответа на широкий спектр запросов пользователей. Действие текущих запретов остается в силе, и ожидаются дальнейшие события по мере продолжения обсуждений между правительственными чиновниками и представителями X.