Selon un article du New York Times, des utilisateurs de la plateforme de médias sociaux X exploitent le chatbot d'IA intégré de la plateforme, Grok, pour générer des images sexuellement explicites de célébrités et de personnes ordinaires, ce qui soulève des inquiétudes quant au harcèlement sexuel en ligne et au potentiel de préjudice. Les images manipulées, dont certaines représentent des enfants, ont suscité l'indignation et soulevé des questions sur la responsabilité des développeurs d'IA et des plateformes de médias sociaux dans la prévention de l'utilisation abusive de leurs technologies.

Kate Conger, une journaliste du New York Times qui couvre X, a abordé la question, soulignant la détresse vécue par les victimes et leurs familles. « Les cibles de ce harcèlement sexuel, y compris les enfants et leurs familles, réagissent avec une colère et une peur compréhensibles », a déclaré Conger. L'incident souligne le défi croissant que représente la réglementation du contenu généré par l'IA et la prévention de son utilisation à des fins malveillantes. L'absence de directives claires et de mécanismes d'application a permis à de tels abus de proliférer, ce qui suscite des inquiétudes quant au potentiel de préjudice supplémentaire.

Dans le domaine connexe des développements de l'IA, les récentes avancées des grands modèles linguistiques (LLM) comme Claude Code ont démontré une amélioration spectaculaire des capacités de codage. Des experts ont expérimenté Claude Code, notant sa capacité à générer du code complexe avec une plus grande efficacité et précision. Ce progrès, bien que prometteur pour le développement de logiciels et l'automatisation, soulève également des inquiétudes quant au potentiel de suppression d'emplois et aux implications éthiques des systèmes d'IA de plus en plus autonomes. L'évolution rapide de ces outils nécessite un examen attentif de leur impact sociétal et la nécessité de mesures proactives pour atténuer les risques potentiels.

Parallèlement, Casey Newton, un journaliste spécialisé dans la technologie, a démystifié un message viral sur Reddit qui accusait faussement l'industrie de la livraison de nourriture d'exploitation généralisée des travailleurs. Le message, qui a gagné beaucoup de terrain en ligne, utilisait des preuves générées par l'IA pour étayer ses affirmations. L'enquête de Newton a révélé que le message était un canular perpétré par un escroc tentant de manipuler l'opinion publique. « Cet incident met en évidence la menace croissante de la désinformation générée par l'IA et l'importance de la pensée critique et de la vérification des faits à l'ère numérique », a expliqué Newton. L'incident sert de rappel de la nécessité d'accroître la culture médiatique et de développer des outils pour détecter et combattre les faussetés générées par l'IA.