Un chercheur en sécurité de l'IA chez Anthropic a démissionné cette semaine avec un avertissement sévère selon lequel le "monde est en péril", citant des inquiétudes concernant l'intelligence artificielle, les armes biologiques et l'état du monde. Mrinank Sharma, qui a partagé sa lettre de démission sur X, a annoncé qu'il quitterait l'entreprise américaine pour se consacrer à l'écriture, étudier la poésie et s'installer au Royaume-Uni. Cette nouvelle survient au milieu d'une effervescence d'activité et d'inquiétude dans le domaine de l'IA, notamment des avancées dans les grands modèles de langage et le développement d'outils pour aider les personnes atteintes de maladies débilitantes.
Le départ de Sharma d'Anthropic, connu pour son chatbot Claude, fait suite à une démission similaire d'un chercheur d'OpenAI qui a exprimé des inquiétudes concernant la décision de l'entreprise d'introduire des publicités dans son chatbot. La lettre de Sharma n'a pas fourni de détails précis sur ses préoccupations, mais sa décision de quitter complètement le domaine et de "devenir invisible" souligne les angoisses croissantes entourant le développement rapide et les risques potentiels de l'IA.
Parallèlement, les progrès de l'IA continuent d'émerger. Des chercheurs de Nvidia ont développé une technique appelée sparsification dynamique de la mémoire (DMS) qui peut réduire les coûts de mémoire du raisonnement des grands modèles de langage jusqu'à huit fois, selon VentureBeat. Cette méthode compresse le cache clé-valeur (KV), la mémoire temporaire utilisée par les LLM, sans dégrader de manière significative les performances du modèle. Des expériences montrent que DMS permet aux LLM de "penser" plus longtemps et d'explorer davantage de solutions sans avoir besoin de ressources supplémentaires.
Dans d'autres actualités, l'IA est également utilisée pour aider les personnes atteintes de maladies débilitantes. Un musicien qui a perdu sa voix à cause de la sclérose latérale amyotrophique (SLA) a pu chanter à nouveau grâce à l'IA. Le musicien, Patrick Darling, s'est produit sur scène avec les membres de son groupe pour la première fois en deux ans, selon MIT Technology Review. Sa performance a été rendue possible grâce à la technologie de l'IA qui a recréé sa voix, lui permettant de partager à nouveau sa musique avec son public.
D'autres développements dans le domaine incluent la capacité de créer des bacs à sable cloud, d'exécuter des commandes, de transférer des fichiers et d'automatiser les navigateurs à l'aide de Claude Code, Codex et d'autres agents, selon Hacker News. Cette fonctionnalité, fournie par cloudrouter, donne aux agents de codage la possibilité de créer des machines virtuelles et d'utiliser des GPU à partir de la ligne de commande.
Enfin, la recherche se poursuit sur les origines de la vie. Selon Ars Technica, les scientifiques explorent le potentiel des molécules d'ARN à s'auto-répliquer. Cette recherche se concentre sur la capacité de l'ARN à transporter des informations génétiques et à se replier en structures tridimensionnelles qui agissent comme des catalyseurs. Cela pourrait potentiellement aider les scientifiques à comprendre comment la vie primitive a pu fonctionner.
Discussion
AI Experts & Community
Be the first to comment