Les développements de l'IA suscitent un débat sur l'éthique, les capacités et l'impact

L'intelligence artificielle continue de progresser rapidement, suscitant à la fois enthousiasme et inquiétude dans divers secteurs. Les développements récents mettent en évidence le potentiel de la technologie, mais soulèvent également des questions sur ses implications éthiques et son impact sociétal.

Le laboratoire d'IA Arcee, basé à San Francisco, a fait les gros titres avec la sortie de son plus grand modèle de langage ouvert à ce jour, Trinity Large, un mélange d'experts (MoE) de 400 milliards de paramètres, disponible dès maintenant en version préliminaire, selon VentureBeat. Arcee a également publié un modèle de point de contrôle "brut", Trinity-Large-TrueBase, qui permet aux chercheurs d'étudier à quoi ressemble un MoE clairsemé de 400 milliards avant tout réglage fin. L'entreprise a été reconnue l'année dernière comme l'une des rares entreprises américaines à former de grands modèles de langage (LLM) à partir de zéro et à les publier sous des licences open source ou partiellement open source, permettant aux développeurs et aux entreprises de les personnaliser.

Parallèlement, une nouvelle étude de Google suggère que les modèles de raisonnement avancés atteignent des performances élevées en simulant des débats de type multi-agents impliquant diverses perspectives, traits de personnalité et expertise du domaine, a rapporté VentureBeat. Ces débats internes, surnommés "société de pensée", améliorent considérablement les performances du modèle dans les tâches complexes de raisonnement et de planification. Les chercheurs ont constaté que les principaux modèles de raisonnement tels que DeepSeek-R1 et QwQ-32B développent intrinsèquement cette capacité sans instruction explicite.

Cependant, la progression rapide de l'IA soulève également des préoccupations éthiques. Une analyse menée par des chercheurs de Stanford et de l'Indiana University a révélé qu'un marché civil en ligne pour l'achat et la vente de contenu généré par l'IA, soutenu par Andreessen Horowitz, permet aux utilisateurs d'acheter des fichiers d'instructions personnalisés pour générer des deepfakes de célébrités, selon MIT Technology Review. L'étude a révélé qu'entre mi-2023 et fin 2024, une part importante des demandes sur le site concernait des deepfakes de personnes réelles, et que 90 % de ces demandes de deepfakes ciblaient des femmes. Certains fichiers étaient spécifiquement conçus pour créer des images pornographiques interdites par le site.

Les capacités de l'IA suscitent également un malaise quant à l'avenir du travail. MIT Technology Review a rapporté qu'"une nouvelle recherche troublante affirme que l'IA va avoir un impact sismique sur le marché du travail cette année". L'article soulignait également les capacités contrastées des différents modèles d'IA, déclarant : "Grok est une machine à pornographie. Claude Code peut tout faire, de la création de sites web à la lecture de votre IRM."

La proéminence croissante de l'IA a également entraîné des tensions internes au sein de l'industrie technologique. MIT Technology Review a noté que "les entreprises d'IA se retournent les unes contre les autres comme si c'était le dernier acte d'un film de zombies", avec l'ancien responsable de l'IA de Meta, Yann LeCun, qui "révèle des secrets", et Elon Musk et OpenAI qui se dirigent vers un procès.

Les développements de l'IA incitent les leaders technologiques à s'exprimer. Wired a noté qu'après l'élection présidentielle de 2016, des PDG de la technologie comme Mark Zuckerberg et Tim Cook ont commencé à aborder l'impact de la technologie sur la société.