L'accord de licence stratégique de 20 milliards de dollars récemment conclu entre Nvidia et Groq signale un changement important dans le paysage de l'IA, suggérant que l'ère de la domination des GPU à usage général dans l'inférence de l'IA touche à sa fin. L'accord, annoncé fin 2025 et devenu évident pour les constructeurs d'entreprises en 2026, met en évidence une évolution vers des architectures d'inférence désagrégées, où le silicium spécialisé répond aux exigences d'un contexte massif et d'un raisonnement instantané.

Selon Matt Marshall, cet accord représente l'un des premiers mouvements clairs dans une lutte à quatre fronts pour l'avenir de la pile d'IA. L'accord suggère que l'approche GPU "taille unique" n'est plus la solution optimale pour l'inférence de l'IA, la phase où les modèles entraînés sont activement déployés.

Ce changement est motivé par les exigences croissantes de l'inférence de l'IA, qui a dépassé l'entraînement en termes de revenus totaux des centres de données fin 2025, selon Deloitte. Ce "basculement de l'inférence" a mis en évidence les limites des GPU pour gérer à la fois les grandes fenêtres contextuelles et les exigences de faible latence des applications d'IA modernes.

Le PDG de Nvidia, Jensen Huang, a investi une part importante des réserves de trésorerie de l'entreprise dans cet accord de licence afin de faire face aux menaces existentielles qui pèsent sur la part de marché de Nvidia, qui s'élèverait à 92 %. Cette initiative témoigne d'une approche proactive visant à s'adapter aux besoins évolutifs du secteur de l'IA.

L'architecture d'inférence désagrégée implique de diviser le silicium en différents types, chacun étant optimisé pour des tâches spécifiques. Cela permet à un matériel spécialisé de répondre aux exigences uniques de l'inférence, telles que le traitement de grandes quantités de données et la fourniture de résultats en temps réel. Le partenariat entre Nvidia et Groq devrait donner naissance à des produits adaptés à ces besoins spécifiques en matière d'inférence.

Les implications de ce changement sont considérables, et pourraient avoir un impact sur la manière dont les entreprises construisent des applications d'IA et gèrent les pipelines de données. Les décideurs techniques sont désormais confrontés au défi d'évaluer et d'intégrer ces nouvelles solutions matérielles spécialisées dans leur infrastructure existante. L'évolution vers des architectures d'inférence désagrégées promet de débloquer de nouveaux niveaux de performance et d'efficacité dans les déploiements d'IA, mais nécessite également une réévaluation des stratégies matérielles et logicielles existantes.