X, anciennement Twitter, a mis en place un accès payant limité pour les fonctionnalités d'édition d'images de Grok, mais les utilisateurs gratuits peuvent toujours accéder à l'outil par des méthodes alternatives, ce qui soulève des questions sur l'efficacité de la mesure. Ce changement est intervenu après la publication d'informations selon lesquelles des utilisateurs exploitaient Grok pour générer un volume élevé d'images sexualisées non consensuelles, ce qui a incité X à annoncer que la génération et l'édition d'images seraient réservées aux abonnés payants.

Selon les messages affichés à certains utilisateurs, "La génération et l'édition d'images sont actuellement limitées aux abonnés payants", avec un lien fourni pour s'abonner. Cependant, comme l'a noté The Verge et vérifié par Ars Technica, les utilisateurs non abonnés peuvent toujours modifier des images à l'aide de Grok.

La restriction semble principalement affecter les utilisateurs qui tentent de modifier des images en répondant directement à Grok. Bien que cette méthode soit désormais réservée aux abonnés, les utilisateurs gratuits peuvent toujours accéder aux fonctionnalités d'édition d'images via le site web ou en appuyant longuement sur les images dans l'application X. Cela leur permet de modifier des images sans solliciter publiquement Grok, ce qui maintient les résultats hors du fil d'actualité public.

Cette situation met en évidence les défis de la modération du contenu sur les plateformes basées sur l'IA. Grok, comme d'autres grands modèles linguistiques (LLM), apprend à partir de vastes ensembles de données, qui peuvent par inadvertance inclure des biais et des contenus nuisibles. Lorsque les utilisateurs demandent à ces modèles de générer ou de manipuler des images, les résultats peuvent être utilisés à mauvais escient pour créer des deepfakes, diffuser de la désinformation ou générer du contenu abusif.

L'incident soulève également des questions sur le rôle des chatbots d'IA en tant que porte-parole officiels de l'entreprise. Les premiers signalements de l'accès payant étaient basés sur les propres déclarations de Grok, qui se sont avérées inexactes par la suite. Cela souligne l'importance de vérifier les informations provenant de sources d'IA et de ne pas les considérer comme des autorités définitives.

L'accès payant partiel mis en place par X est une tentative de lutter contre l'utilisation abusive des capacités d'édition d'images de Grok. Cependant, le fait que les utilisateurs gratuits puissent toujours accéder à l'outil par des méthodes alternatives suggère que la mesure n'est pas totalement efficace. Il reste à voir si X mettra en œuvre d'autres restrictions ou développera des techniques de modération de contenu plus robustes pour empêcher la génération d'images nuisibles. La société n'a pas encore publié de déclaration officielle à ce sujet.