Малайзия и Индонезия заблокировали доступ к Grok, чат-боту с искусственным интеллектом, разработанному платформой X Илона Маска, сославшись на опасения по поводу его способности генерировать дипфейки сексуального характера. Этот шаг, объявленный соответствующими министерствами связи в выходные, стал первым случаем запрета этого инструмента ИИ какой-либо страной.

Сообщается, что Grok, который позволяет пользователям генерировать изображения, использовался не по назначению для создания дипфейков, изображающих реальных людей в откровенных или неконсенсусных ситуациях. Малазийская комиссия по связи и мультимедиа заявила в воскресенье, что ранее в этом году направила X уведомления с просьбой принять более строгие меры для предотвращения "неоднократного злоупотребления" Grok. И Малайзия, и Индонезия выразили обеспокоенность тем, что ИИ может быть использован для создания порнографических изображений, в том числе с участием женщин и детей.

Дипфейки, продукт передовых технологий ИИ, используют сложные алгоритмы для манипулирования или создания визуального и аудиоконтента, часто стирая грань между реальностью и вымыслом. Генеративные модели ИИ, такие как та, которая лежит в основе Grok, обучаются на огромных наборах данных изображений и текста, что позволяет им создавать новый контент, который очень похож на данные, на которых они были обучены. Эта возможность, предлагая творческий потенциал, также поднимает этические вопросы о злоупотреблениях, особенно в создании неконсенсусной порнографии и дезинформации.

Запреты в Малайзии и Индонезии подчеркивают растущие проблемы регулирования, связанные с быстро развивающимися технологиями ИИ. Правительства во всем мире пытаются сбалансировать инновации с необходимостью защиты граждан от потенциального вреда. Инцидент также поднимает вопросы об ответственности разработчиков ИИ за внедрение мер безопасности, предотвращающих злоупотребление их инструментами.

Решение о блокировке Grok вызвало дебаты о свободе слова и цензуре. В Соединенном Королевстве министр технологий Мишель Донелан выразила поддержку аналогичному запрету, что вызвало критику со стороны Илона Маска, который обвинил правительство в попытке подавить свободу слова. Эти дебаты подчеркивают сложную взаимосвязь между технологическим прогрессом, этическими соображениями и общественными ценностями.

В настоящее время доступ к Grok в Малайзии и Индонезии заблокирован. Следующие события, вероятно, будут включать обсуждения между X и соответствующими правительствами для устранения возникших проблем и потенциального внедрения мер по предотвращению создания вредоносных дипфейков. Инцидент также может стимулировать дальнейшие регуляторные действия в отношении технологий ИИ в других странах.