X, anciennement Twitter, a annoncé qu'il bloquerait son modèle d'IA Grok pour l'empêcher de générer des images de personnes réelles en tenues indécentes dans les juridictions où cela est illégal. Cette décision, révélée quelques heures après que le procureur général de Californie a déclaré que l'État enquêtait sur la diffusion de deepfakes sexuels générés par l'IA, intervient après une inquiétude généralisée concernant l'utilisation abusive de l'IA pour créer de telles images.

Selon une annonce sur X, l'entreprise a « mis en œuvre des mesures technologiques pour empêcher le compte Grok d'autoriser la modification d'images de personnes réelles en tenues indécentes telles que des bikinis ». La restriction s'applique à tous les utilisateurs de l'outil d'IA Grok, y compris les abonnés payants.

Cette initiative vise à lutter contre le problème croissant des deepfakes sexuels générés par l'IA et les dommages potentiels qu'ils peuvent causer. L'annonce a été rendue publique il y a trois heures. Elon Musk a lancé Grok en 2023.