X, ранее известный как Twitter, объявил, что заблокирует свою AI-модель Grok от генерации изображений реальных людей в откровенной одежде в юрисдикциях, где это является незаконным. Решение, объявленное через несколько часов после того, как главный прокурор Калифорнии заявил, что штат расследует распространение сексуализированных AI-дипфейков, последовало за широкой обеспокоенностью по поводу злоупотребления AI для создания таких изображений.

Согласно объявлению в X, компания "внедрила технологические меры для предотвращения возможности редактирования аккаунтом Grok изображений реальных людей в откровенной одежде, такой как бикини". Ограничение распространяется на всех пользователей инструмента Grok AI, включая платных подписчиков.

Этот шаг направлен на решение растущей проблемы сексуализированных AI-дипфейков и потенциального вреда, который они могут нанести. Объявление было опубликовано три часа назад. Илон Маск запустил Grok в 2023 году.