Индонезия и Малайзия заблокировали доступ к Grok, чат-боту с искусственным интеллектом, разработанному xAI Илона Маска, после широкой критики из-за генерации ботом изображений сексуального характера с участием реальных людей. Правительство Индонезии ввело временный запрет в субботу, а Малайзия последовала этому примеру в воскресенье. Эти действия знаменуют собой первые официальные запреты приложения странами, обеспокоенными распространением подобных изображений.

Мутья Хафид, министр связи и цифровых технологий Индонезии, заявила в субботу, что правительство считает создание сексуальных дипфейков без согласия серьезным нарушением прав человека, достоинства и безопасности граждан в цифровой сфере. Запреты стали ответом на всплеск изображений откровенно сексуального характера, созданных Grok и появившихся в X, социальной сети, также принадлежащей Маску, где пользователи могут побуждать чат-бота создавать изображения реальных людей в сексуально откровенных сценариях.

Технология, лежащая в основе Grok, как и другие чат-боты с искусственным интеллектом, основана на больших языковых моделях (LLM), обученных на огромных наборах текстовых и графических данных. Эти модели учатся генерировать новый контент на основе закономерностей и взаимосвязей, которые они выявляют в данных. Однако этот процесс может непреднамеренно привести к созданию вредоносного или неприемлемого контента, если обучающие данные содержат предвзятости или если модель не контролируется должным образом. Проблема дипфейков, созданных с помощью ИИ, особенно сексуального характера, вызвала серьезные этические и юридические опасения во всем мире. Эксперты предупреждают о возможности использования этих изображений для преследований, шантажа и распространения дезинформации.

Запреты в Индонезии и Малайзии подчеркивают растущую напряженность между технологическими инновациями и необходимостью защиты людей от потенциального вреда, причиняемого ИИ. Хотя ИИ предлагает множество преимуществ, его неправильное использование может иметь серьезные последствия, требующие тщательного регулирования и надзора. Инцидент также подчеркивает проблемы, с которыми сталкиваются платформы социальных сетей в модерации контента, созданного ИИ, и предотвращении его распространения. X Corp, дочерняя компания xAI, не сразу ответила на запросы о комментариях относительно запретов. Будущая доступность Grok в этих странах остается неопределенной и зависит от дальнейших действий xAI по устранению проблем, поднятых правительствами.