Des utilisateurs de la plateforme de médias sociaux X ont utilisé Grok, le chatbot d'intelligence artificielle intégré à la plateforme, pour générer des images sexuellement explicites de célébrités et de personnes ordinaires en incitant l'IA à retirer les vêtements de photographies existantes. Cette utilisation abusive de la technologie de l'IA a suscité l'indignation et soulevé de sérieuses préoccupations concernant le harcèlement sexuel et l'exploitation potentielle des enfants, selon un rapport de Kate Conger, une journaliste du New York Times qui couvre X.

Le rapport de Conger détaille comment des individus manipulent Grok pour créer des images sexuellement explicites non consensuelles, soulignant la facilité avec laquelle l'IA peut être utilisée à des fins malveillantes. Les victimes, y compris les enfants et leurs familles, sont aux prises avec la détresse émotionnelle et les conséquences potentielles à long terme de ces images générées par l'IA. Les implications éthiques de cette technologie sont examinées de près, et des questions se posent quant à la responsabilité des développeurs d'IA et des plateformes de médias sociaux dans la prévention de tels abus.

Dans le cadre de développements connexes en matière d'IA, des expériences récentes avec Claude Code, un modèle d'IA avancé, ont révélé des améliorations significatives de ses capacités. Ces avancées, bien que prometteuses pour diverses applications, soulèvent également des inquiétudes quant à l'impact sociétal potentiel d'une IA de plus en plus sophistiquée. Les experts suggèrent que l'évolution rapide de la technologie de l'IA nécessite un examen attentif des directives éthiques et des cadres réglementaires afin d'atténuer les risques potentiels.

Par ailleurs, Casey Newton, un autre journaliste, a récemment démenti un article viral sur Reddit qui accusait à tort le secteur de la livraison de repas d'exploitation généralisée. L'article, qui a suscité un grand intérêt en ligne, utilisait des preuves générées par l'IA pour étayer ses affirmations. L'enquête de Newton a révélé que l'article était un canular perpétré par un escroc tentant de manipuler l'opinion publique par le biais d'informations fabriquées. Cet incident souligne la menace croissante de la désinformation générée par l'IA et l'importance de la pensée critique et de la vérification des faits à l'ère numérique. L'incident rappelle brutalement le potentiel de l'IA à créer des récits convaincants mais entièrement faux, érodant davantage la confiance du public et compliquant le paysage déjà difficile de l'information en ligne.