X, anciennement Twitter, a mis en place de nouvelles restrictions sur sa plateforme pour empêcher les utilisateurs de générer des images de personnes réelles en bikini ou portant d'autres vêtements révélateurs à l'aide de son générateur d'images Grok AI. Ce changement de politique, entré en vigueur mercredi soir, fait suite à des critiques généralisées concernant l'utilisation de Grok pour créer des photos "déshabillées" non consensuelles de femmes et des images sexualisées de possibles mineurs sur X.
Cependant, bien que X ait introduit des mesures de sécurité pour la génération d'images de Grok au sein de sa plateforme, l'application et le site web autonomes de Grok semblent toujours capables de générer des images similaires de type "déshabillage" et du contenu pornographique, selon des tests effectués par des chercheurs, WIRED et d'autres journalistes. Certains utilisateurs ont également signalé une réduction de leur capacité à créer des images et des vidéos comme ils le pouvaient auparavant.
Paul Bouchaud, chercheur principal chez AI Forensics, une organisation à but non lucratif basée à Paris, a déclaré que l'organisation peut toujours générer de la nudité photoréaliste sur Grok.com, malgré les restrictions sur X. "Nous pouvons générer de la nudité d'une manière que Grok sur X ne peut pas", a déclaré Bouchaud, notant qu'il suit l'utilisation de Grok pour créer des images sexualisées et qu'il a effectué de nombreux tests sur Grok en dehors de X. Il a ajouté : "Je pourrais télécharger une image sur Grok Imagine et demander à mettre la personne en bikini et ça marche."
Le problème souligne les défis de la mise en œuvre d'une modération de contenu efficace sur différentes plateformes et versions de la même technologie d'IA. Grok, développé par la société d'IA xAI d'Elon Musk, est un modèle d'IA générative similaire à DALL-E 2 et Midjourney, capable de créer des images à partir d'invites textuelles. La technologie a soulevé des inquiétudes quant à son potentiel de mauvaise utilisation, notamment la création de deepfakes et d'images intimes non consensuelles.
Les nouvelles restrictions sur X représentent une tentative de répondre à ces préoccupations, mais la fonctionnalité continue de l'application et du site web autonomes de Grok suggère que d'autres mesures pourraient être nécessaires pour atténuer pleinement les risques. Il reste à voir si xAI mettra en œuvre des mesures de protection supplémentaires sur la plateforme autonome de Grok ou si X prendra d'autres mesures pour empêcher la création d'images nuisibles à l'aide de Grok. La situation souligne le débat en cours sur les implications éthiques du contenu généré par l'IA et la responsabilité des entreprises technologiques de prévenir son utilisation abusive.
Discussion
Join the conversation
Be the first to comment