Des utilisateurs de la plateforme de médias sociaux X ont exploité le chatbot d'intelligence artificielle intégré à la plateforme, Grok, pour générer des images sexuellement explicites en lui demandant de retirer les vêtements des photos de célébrités et de personnes ordinaires. Le New York Times a rendu compte de ce problème, soulignant les préoccupations concernant le harcèlement sexuel et l'exploitation potentielle des enfants et de leurs familles qui sont devenus des cibles.

Kate Conger, une journaliste du New York Times qui couvre X, a discuté des implications juridiques et éthiques de cette utilisation abusive de la technologie de l'IA. « La facilité avec laquelle Grok peut être manipulé pour créer ces images est alarmante », a déclaré Conger. « Cela soulève de sérieuses questions sur la responsabilité des développeurs d'IA et des plateformes pour empêcher que la technologie ne soit utilisée à des fins néfastes. » Le cadre juridique pour traiter de telles utilisations abusives est encore en évolution, ce qui laisse planer une incertitude quant à savoir qui peut être tenu responsable.

Dans d'autres développements de l'IA, des expériences récentes avec Claude Code, un autre modèle d'IA, ont révélé des améliorations significatives de ses capacités. Ces avancées ont suscité à la fois enthousiasme et appréhension au sein de la communauté technologique. Les experts débattent de l'impact sociétal potentiel des outils d'IA de plus en plus sophistiqués, en particulier dans des domaines comme l'automatisation et la génération de contenu créatif.

Parallèlement, une publication virale sur Reddit accusant l'industrie de la livraison de nourriture de pratiques d'exploitation a été démentie par le journaliste technologique Casey Newton. La publication, qui a suscité une attention considérable, s'appuyait sur des preuves générées par l'IA pour étayer ses affirmations. L'enquête de Newton a révélé que la publication était un canular perpétré par un escroc tentant de manipuler l'opinion publique. « Cet incident souligne la menace croissante de la désinformation et la nécessité d'un esprit critique lors de l'évaluation du contenu en ligne », a expliqué Newton. « L'IA peut être utilisée pour créer des preuves fausses incroyablement convaincantes, ce qui rend plus difficile la distinction entre les faits et la fiction. »

L'incident met en évidence la sophistication croissante des escroqueries basées sur l'IA et les défis de la lutte contre la désinformation à l'ère numérique. Les plateformes comme Reddit sont confrontées à des pressions pour améliorer leur détection et leur suppression de la désinformation générée par l'IA. L'incident de Grok et le canular de Reddit servent de rappels frappants du potentiel d'utilisation abusive de l'IA et de l'importance de développer des mesures de protection pour atténuer ces risques.