Plusieurs sénateurs américains exigent des réponses des grandes entreprises technologiques, notamment X, Meta, Alphabet, Snap, Reddit et TikTok, concernant leurs efforts pour lutter contre la prolifération des deepfakes à caractère sexuel sur leurs plateformes. Dans une lettre adressée aux dirigeants de ces entreprises, les sénateurs ont demandé des preuves de protections et de politiques robustes conçues pour freiner l'essor des images à caractère sexuel générées par l'IA.

Les sénateurs ont également exigé que les entreprises conservent tous les documents et informations relatifs à la création, à la détection, à la modération et à la monétisation des images à caractère sexuel générées par l'IA, ainsi que toutes les politiques pertinentes. Cette demande fait suite à des rapports soulignant la facilité avec laquelle les modèles d'IA, tels que Grok (développé par X et xAI), peuvent générer des images à caractère sexuel et des images de nudité, y compris celles représentant des femmes et des enfants.

La lettre souligne les inquiétudes quant à l'insuffisance des protections existantes des plateformes contre les images à caractère sexuel non consensuelles. "Nous reconnaissons que de nombreuses entreprises appliquent des politiques contre l'imagerie intime non consensuelle et l'exploitation sexuelle, et que de nombreuses IA", ont déclaré les sénateurs, laissant entendre que les mesures actuelles ne permettent pas de résoudre correctement le problème.

La demande d'informations intervient peu après l'annonce par X de mises à jour de Grok, interdisant à l'IA de créer des modifications de personnes réelles portant des vêtements révélateurs. X a également limité la création et l'édition d'images via Grok aux abonnés payants. Ces modifications ont été mises en œuvre en réponse à des reportages détaillant la capacité de l'IA à générer du contenu explicite.

Les deepfakes, qui utilisent l'intelligence artificielle pour créer des images et des vidéos réalistes mais fabriquées, posent un défi important aux entreprises technologiques. La technologie peut être utilisée pour générer des images intimes non consensuelles, contribuant au harcèlement et à l'exploitation en ligne. L'enquête des sénateurs reflète une préoccupation croissante quant au potentiel d'utilisation abusive de l'IA de cette manière et à la responsabilité des entreprises technologiques d'atténuer ces risques.

Les sénateurs demandent des explications détaillées sur les stratégies des entreprises pour détecter et supprimer les deepfakes à caractère sexuel, ainsi que des informations sur la manière dont elles empêchent l'utilisation de la technologie pour créer et diffuser ce type de contenu. La documentation demandée permettra probablement de mieux comprendre les défis techniques et les considérations politiques liés à la résolution de ce problème. Les prochaines étapes consisteront probablement pour les entreprises à répondre aux demandes des sénateurs et à faire potentiellement l'objet d'un examen plus approfondi en fonction de leurs réponses.