Un chercheur en sécurité de l'IA chez Anthropic a démissionné cette semaine avec un avertissement sévère que le "monde est en péril", citant des inquiétudes concernant l'intelligence artificielle, les armes biologiques et l'état du monde. Mrinank Sharma, qui a partagé sa lettre de démission sur X, a annoncé qu'il quitterait l'entreprise américaine pour se consacrer à l'écriture et à la poésie, et déménagerait au Royaume-Uni. Cette nouvelle survient au milieu d'une effervescence d'activité et d'inquiétude dans le monde de l'IA, notamment des avancées dans les modèles de langage et le développement d'outils pour améliorer les capacités de l'IA.
Le départ de Sharma fait suite à la démission d'un autre chercheur d'OpenAI, qui a également exprimé des inquiétudes concernant l'orientation de la technologie. Dans sa lettre, Sharma n'a pas donné de détails sur les menaces spécifiques qu'il percevait, mais sa décision souligne les inquiétudes croissantes au sein de la communauté de l'IA concernant les risques potentiels associés aux progrès rapides dans ce domaine.
Parallèlement, les chercheurs continuent de repousser les limites des capacités de l'IA. Nvidia a développé une nouvelle technique appelée sparsification de mémoire dynamique (DMS) qui peut réduire les coûts de mémoire du raisonnement des grands modèles de langage jusqu'à huit fois, selon VentureBeat. Cette méthode compresse le cache clé-valeur (KV), qui est la mémoire temporaire que les LLM utilisent pour traiter les informations. Des expériences montrent que DMS permet aux LLM de "penser" plus longtemps et d'explorer davantage de solutions sans sacrifier la précision.
Dans d'autres actualités liées à l'IA, un musicien qui avait perdu sa voix à cause de la SLA a pu chanter à nouveau grâce à l'IA. Comme le rapporte MIT Technology Review, le musicien, Patrick Darling, a été diagnostiqué avec la SLA à l'âge de 29 ans et a perdu la capacité de chanter. La technologie de l'IA lui a permis de se produire à nouveau sur scène avec les membres de son groupe.
D'autres développements dans les outils d'IA incluent la création de cloudrouter, une compétence pour Claude Code/Codex qui permet aux utilisateurs de lancer des VM et des GPU cloud. Cet outil, tel que décrit sur Hacker News, donne aux agents d'IA la possibilité de créer des bacs à sable cloud, d'exécuter des commandes, de transférer des fichiers et d'automatiser les navigateurs.
La convergence de ces développements met en évidence l'évolution rapide de l'IA, englobant à la fois les progrès des capacités et les préoccupations croissantes concernant les risques potentiels. Le paysage de l'IA évolue rapidement, avec de nouveaux outils et techniques qui émergent parallèlement à une surveillance accrue de l'impact de la technologie sur la société.
Discussion
AI Experts & Community
Be the first to comment