Les chercheurs de Nvidia ont développé une nouvelle technique, la Sparsification Dynamique de la Mémoire (SDM), qui peut réduire jusqu'à huit fois les coûts de mémoire du raisonnement des grands modèles de langage (LLM) sans sacrifier la précision, selon VentureBeat. La technique compresse le cache clé-valeur (KV), la mémoire temporaire que les LLM utilisent pour traiter les invites et raisonner à travers les informations.
La technique SDM, développée par les chercheurs de Nvidia, répond à un défi courant dans le développement des LLM : les fortes exigences en mémoire pour le traitement de tâches complexes. Bien que d'autres méthodes pour compresser le cache KV aient été proposées, elles entraînent souvent une dégradation de l'intelligence du modèle. L'approche de Nvidia, cependant, parvient à supprimer une part importante du cache tout en maintenant, voire en améliorant, les capacités de raisonnement du modèle, comme le rapporte VentureBeat. Des expériences ont montré que la SDM permet aux LLM de "réfléchir" plus longtemps et d'explorer davantage de solutions sans les mêmes contraintes de mémoire.
Dans d'autres actualités technologiques, la société européenne Tenways a lancé son nouveau vélo électrique CGO Compact en Europe. Le vélo est conçu pour s'adapter aux espaces restreints, avec un guidon qui pivote et des pédales qui se replient, lui permettant de se coucher à plat. Thomas Ricker, rédacteur en chef adjoint et co-fondateur de The Verge, a noté le design du vélo comme un développement intéressant de la part d'un challenger relativement nouveau sur le marché des vélos électriques.
Par ailleurs, des offres sur les ordinateurs portables de jeu sont disponibles chez Best Buy. Les modèles 2025 des Acer Predator Helios Neo 16S et Asus Zephyrus G14 sont tous deux à des centaines de dollars de réduction, selon The Verge. Ces ordinateurs portables offrent des performances puissantes, des écrans OLED et conviennent aux modèles de 16 pouces et de 14 pouces.
Dans le domaine du divertissement, Prime Video a sorti le premier teaser de la nouvelle série en prise de vue réelle "Spider-Noir", basée sur le personnage de Marvel Comics. La série met en vedette Nicolas Cage dans le rôle d'un détective privé vieillissant et d'un super-héros désillusionné dans le New York des années 1930. Le teaser a été publié sous deux formes : en noir et blanc, rappelant Raymond Chandler, et en couleur, que les showrunners appellent "True Hue", selon Ars Technica.
Enfin, le prix de l'ordinateur portable Asus Zenbook S 16 a baissé à 1 000 $, soit une réduction de 500 $ par rapport à son prix de vente initial, selon Wired. L'ordinateur portable, connu pour son design élégant et son excellente autonomie de batterie, a été un favori des journalistes technologiques. La baisse de prix intervient à l'approche de la fin de sa durée de vie, une mise à jour étant attendue prochainement.
Discussion
AI Experts & Community
Be the first to comment