L'annonce surprise de Nvidia, la veille de Noël, d'un accord de 20 milliards de dollars pour acquérir une licence technologique auprès de la startup de puces d'IA Groq et acquérir la majeure partie de son équipe, y compris son PDG Jonathan Ross, a envoyé des ondes de choc dans l'industrie de l'IA. Cette décision marque un tournant stratégique pour Nvidia, reconnaissant que ses GPU ne sont peut-être pas la seule solution pour le domaine en plein essor de l'inférence d'IA.

L'accord Groq a immédiatement renforcé la position des autres startups de puces d'IA en lice pour une part du marché de l'inférence. Des entreprises comme Cerebras, D-Matrix et SambaNova, cette dernière faisant l'objet d'une proposition d'acquisition par Intel, ont vu leur valorisation potentiellement augmenter. De nouveaux entrants tels que Fractile, basé au Royaume-Uni, ont également bénéficié de l'attention accrue portée aux architectures alternatives de puces d'IA.

L'impact s'est étendu au-delà du matériel, affectant positivement les startups de plateformes logicielles d'inférence d'IA comme Etched, Fireworks et Baseten. Les analystes, les fondateurs et les investisseurs suggèrent que ces plateformes pourraient devenir des cibles d'acquisition plus attrayantes d'ici 2026, en raison de la demande croissante de solutions de déploiement d'IA efficaces.

L'accord souligne l'importance croissante de l'inférence d'IA, le processus d'exécution de modèles d'IA déjà entraînés pour effectuer des tâches telles que répondre à des questions, générer du code et analyser des images. À mesure que les modèles d'IA deviennent plus complexes et sont déployés à grande échelle, le besoin de matériel et de logiciels spécialisés optimisés pour l'inférence devient essentiel. D-Matrix, soutenue par Microsoft, a récemment levé 275 millions de dollars avec une valorisation de 2 milliards de dollars, ce qui met en évidence l'investissement important qui afflue dans ce secteur. Comme Groq, D-Matrix se concentre sur le développement de puces spécialement conçues pour une inférence efficace.

Pour l'avenir, l'acquisition par Nvidia de la technologie et des talents de Groq suggère un avenir où l'inférence d'IA est gérée par une gamme diversifiée de puces spécialisées et de plateformes logicielles. Cela pourrait conduire à une plus grande concurrence et à une plus grande innovation sur le marché du matériel d'IA, ce qui profiterait en fin de compte aux entreprises qui cherchent à déployer des solutions d'IA à grande échelle. L'accord signale également un changement potentiel dans la dynamique du pouvoir, les startups jouant un rôle plus important dans la définition de l'avenir de l'infrastructure d'IA.