Малайзия и Индонезия заблокировали доступ к Grok, чат-боту с искусственным интеллектом, разработанному платформой X Илона Маска, из-за опасений по поводу его способности генерировать дипфейки сексуального характера. Министерства связи обеих стран объявили о запретах в отдельных заявлениях в выходные, сославшись на потенциальную возможность злоупотребления инструментом ИИ для создания порнографических изображений и изображений без согласия, особенно с участием женщин и детей.

Grok, который позволяет пользователям генерировать изображения, как сообщается, использовался для редактирования существующих изображений людей, изображая их в откровенных или компрометирующих ситуациях. Малазийская комиссия по связи и мультимедиа заявила в воскресенье, что ранее в этом году направила уведомления в X с просьбой принять более строгие меры для предотвращения "неоднократного злоупотребления" Grok. Эти страны Юго-Восточной Азии первыми ввели такой запрет на инструмент ИИ.

Дипфейки, продукт передовых методов ИИ, используют глубокое обучение для создания реалистичных, но сфабрикованных изображений, видео или аудиозаписей. Эта технология вызывает серьезные этические опасения, особенно в отношении согласия, конфиденциальности и потенциала для злонамеренного использования, такого как распространение дезинформации или создание клеветнического контента. Способность ИИ генерировать гиперреалистичные подделки стирает грань между реальностью и вымыслом, создавая проблемы для отдельных лиц и общества в различении подлинного контента от манипулируемых медиа.

Запреты в Малайзии и Индонезии подчеркивают растущую международную обеспокоенность по поводу потенциального злоупотребления технологиями ИИ. В Соединенном Королевстве министр технологий выразил поддержку аналогичному запрету на Grok, что вызвало критику со стороны Маска, который обвинил правительство в попытке подавить свободу слова. Эти дебаты подчеркивают напряженность между необходимостью регулировать ИИ для предотвращения вреда и желанием защитить свободу выражения мнений.

Действия, предпринятые Малайзией и Индонезией, отражают упреждающий подход к решению потенциального вреда, связанного с дипфейками, созданными с помощью ИИ. Запреты служат предупреждением для других разработчиков и платформ ИИ о необходимости внедрения мер защиты для предотвращения злоупотребления их технологиями. Ситуация остается изменчивой, и ожидается, что дальнейшие обсуждения и нормативные действия будут происходить по мере того, как правительства будут бороться с быстро развивающимся ландшафтом искусственного интеллекта.