英伟达近期与 Groq 达成的 200 亿美元战略许可协议标志着人工智能领域的一项重大转变，预示着通用 GPU 主导 AI 推理的时代即将结束。据行业分析师称，这项于 2025 年末宣布并在 2026 年为企业构建者所知的交易，预示着未来将是分离式推理架构。

这一举动发生之际，推理（运行训练好的 AI 模型的过程）在 2025 年末的总数据中心收入方面超过了训练，德勤将这一现象称为“推理反转”。 这种转变对芯片设计提出了新的要求，需要专门的架构来处理海量上下文和瞬时推理。

该许可协议表明，英伟达（估计拥有 92% 的市场份额）正在承认其通用 GPU 在满足不断发展的 AI 推理需求方面的局限性。 Matt Marshall 在报道该交易时指出，这是争夺未来 AI 堆栈的四方之战中的首批明确举措之一。

推理的兴起是由 AI 模型在各种应用中的日益普及所推动的，从自动驾驶汽车到个性化推荐。 这些应用需要基于海量数据的实时决策，从而突破了传统 GPU 架构的界限。

分离式推理架构涉及将芯片分成不同类型，每种类型都针对特定任务进行了优化。 这可以更有效地处理 AI 工作负载，从而可能降低延迟并提高吞吐量。

英伟达对 Groq 的投资（Groq 是一家专门从事用于高速推理的张量流处理器 (TSP) 的公司）表明，这是一种适应这种变化格局的战略举措。 TSP 提供了一种替代 GPU 的方案，专注于最大限度地减少延迟并最大限度地提高特定 AI 模型的性能。

这种转变的影响是深远的，可能会影响整个 AI 生态系统。 随着企业越来越多地采用分离式推理架构，预计将涌现新的参与者和技术，从而挑战英伟达的统治地位。 未来几年可能会出现激烈的竞争和创新，各公司竞相在这个不断发展的市场中占据一席之地。