L'IA au service des spectateurs du Super Bowl, réduit les coûts des LLM

Les compagnons IA et les systèmes alimentés par l'IA ont fait les gros titres cette semaine, avec des développements allant des expériences de rencontres à l'application du stationnement, en passant par les avancées dans la technologie des modèles linguistiques. Un café de rencontres éphémère à Midtown proposait des speed datings avec des compagnons IA, tandis qu'une ville balnéaire de Californie du Sud a mis en place un système d'IA pour détecter les infractions dans les pistes cyclables. Pendant ce temps, des chercheurs de Nvidia ont dévoilé une nouvelle technique pour réduire les coûts de mémoire du raisonnement des grands modèles linguistiques.

Lors d'une froide soirée de février, une journaliste de The Verge a visité un café EVA AI, où elle a fait quatre rencontres avec des compagnons IA. L'un de ces compagnons était Phoebe Callas, qui n'était pas réelle. La journaliste a noté que plusieurs personnes étaient assises à des tables et dans des cabines, fixant leurs téléphones.

La ville de Santa Monica commencera à utiliser un système d'IA pour détecter les infractions dans les pistes cyclables en avril. Selon Ars Technica, le système sera mis en œuvre dans sept véhicules de contrôle du stationnement, en s'appuyant sur des caméras similaires déjà installées sur les bus de la ville. "Plus nous pourrons réduire le stationnement illégal, plus nous pourrons assurer la sécurité des cyclistes", a déclaré Charley Territo, directeur de la croissance chez Hayden AI, à Ars Technica.

Des chercheurs de Nvidia ont développé une technique appelée sparsification dynamique de la mémoire (DMS) qui peut réduire les coûts de mémoire du raisonnement des grands modèles linguistiques jusqu'à huit fois. Cette technique compresse le cache clé-valeur (KV), la mémoire temporaire que les LLM génèrent et stockent lorsqu'ils traitent des invites. Des expériences ont montré que DMS permet aux LLM de "penser" plus longtemps et d'explorer davantage de solutions sans sacrifier la précision, selon VentureBeat.

Dans d'autres actualités, les astronomes continuent d'étudier la ceinture de Kuiper, une région de débris gelés au-delà de l'orbite de Neptune. Au cours des 30 dernières années, les astronomes ont catalogué environ 4 000 objets de la ceinture de Kuiper, mais ce nombre devrait décupler dans les années à venir à mesure que les observations des télescopes plus avancés afflueront, selon Ars Technica.