英伟达凭借其GPU在AI芯片领域占据主导地位，近日采取了一项重大举措，即从AI推理初创公司Groq授权技术，并聘用了其大部分团队，包括创始人兼首席执行官Jonathan Ross。 这项在圣诞节假期前夕宣布的交易，表明英伟达认识到高效且经济高效的AI推理日益重要，而AI推理是指大规模运行训练好的AI模型的过程。

推理是AI从研究项目过渡到产生收入的服务的阶段。 与已部署的AI模型的每一次交互，从回答问题到生成代码或驱动聊天机器人，都属于推理范畴。 这一阶段面临着最大限度地降低成本、减少延迟（AI响应所需的时间）和最大限度地提高效率的巨大压力。

随着公司寻求将其AI投资货币化，AI推理的经济性正成为一个至关重要的战场。 英伟达首席执行官黄仁勋公开承认了推理所面临的挑战。 该公司对Groq的投资表明，它认为除了GPU之外，专门的架构对于优化推理性能可能是必要的。

Groq的芯片专为快速、低延迟的AI推理而设计。 这种方法与GPU形成对比，GPU最初是为图形处理而设计的，但已被用于AI训练，并在较小程度上用于推理。 收购Groq的技术和人才可能会使英伟达在快速发展的推理市场中获得竞争优势。

此举凸显了AI芯片设计的不确定性。 虽然英伟达的GPU一直是AI开发的主力军，但该公司对Groq的押注表明，它愿意探索替代架构，以满足推理的特定需求。 这可能会导致AI芯片设计的进一步创新，并为AI开发人员提供更多样化的硬件选择。