英伟达是构建于图形处理器 (GPU) 之上的人工智能芯片领域的主导力量。最近，英伟达斥资 200 亿美元投资 Groq，这家初创公司专门从事人工智能推理技术，这表明英伟达的战略可能发生转变。此举表明，英伟达预计仅靠 GPU 可能并非大规模运行人工智能模型的最终解决方案，尤其是在推理阶段。

推理是指使用经过训练的人工智能模型来生成输出（例如回答问题或创建内容）的过程，也是人工智能从研究投资转变为产生收入的服务的阶段。这种转变带来了最大限度地降低成本、减少延迟（接收人工智能响应的延迟）和最大限度地提高效率的巨大压力。行业分析师表示，这种压力正在推动人工智能推理领域竞争的主导地位，使其成为下一个主要的利润争夺战。

英伟达于 12 月下旬宣布与 Groq 达成许可协议，其中包括收购 Groq 的技术并聘用其大部分团队成员，包括创始人兼首席执行官 Jonathan Ross。Groq 的芯片专为快速、低延迟的人工智能推理而设计，为某些应用提供了一种潜在的 GPU 替代方案。

英伟达首席执行官黄仁勋公开承认了推理的挑战，强调需要高效且具有成本效益的解决方案。虽然 GPU 在人工智能训练方面表现出色，但推理的需求，特别是对于大型语言模型和实时应用，可能需要专门的架构。

人工智能推理的经济影响是巨大的。每次使用人工智能模型来回答查询、生成代码、推荐产品、总结文档、支持聊天机器人或分析图像时，都会在推理期间发生。优化此过程对于使人工智能服务在经济上可行且易于访问至关重要。

该交易凸显了人工智能芯片开发不断变化的格局，其中涌现出专门的架构来满足推理的特定需求。这种趋势可能会导致市场更加多样化和更具竞争力，从而可能挑战英伟达目前的统治地位。

收购 Groq 的技术和人才使英伟达能够在推理市场中更有效地竞争。该公司现在能够更好地提供一系列解决方案，从用于训练的 GPU 到用于推理的专用芯片，以满足其客户的各种需求。这项战略举措对人工智能芯片行业的长期影响还有待观察，但它强调了推理作为人工智能创新和经济价值的关键驱动因素的重要性。