斯坦福大学和英伟达的研究人员开发了一种名为端到端测试时训练 (TTT-E2E) 的新方法，该方法允许 AI 模型在部署后继续学习，而不会增加推理成本。这一进展解决了 AI 应用中管理长上下文准确性和计算效率日益增长的挑战，特别是对于处理大量文档、工单和日志的企业代理而言。

TTT-E2E 方法将语言建模重新定义为一个持续学习问题。模型不再仅仅依赖于预训练中记忆的事实，而是在处理新信息时实时适应。这使得 AI 能够保持对其环境的最新理解，并随着时间的推移提高其性能。

研究人员表示，由此产生的 Transformer 模型可以在接近 RNN 效率的情况下，达到完整注意力模型的长上下文准确性。这代表了企业工作负载的一个重大进步，在这些工作负载中，上下文长度和计算成本是主要考虑因素。

长期以来，准确性与效率之间的权衡一直是开发人员为长文档任务构建 AI 系统所面临的挑战。全自注意力 Transformer 提供高精度，但需要大量的计算资源。TTT-E2E 方法提供了一种潜在的解决方案，它能够在不增加通常与更长上下文相关的指数级计算成本的情况下实现持续学习。

这项研究的意义不仅限于企业应用。通过使 AI 模型能够持续学习并适应新信息，TTT-E2E 可以提高 AI 系统在从医疗保健到金融等广泛领域的性能和可靠性。这可能会带来更准确的诊断、更好的财务预测以及在各个领域更有效的决策。

该研究强调了 AI 模型随着时间的推移发展和改进的潜力，而不是在部署后保持静态。这可能会催生新一代 AI 系统，这些系统更具适应性、弹性和能够应对复杂的现实世界挑战。还需要进一步的研究来探索 TTT-E2E 的全部潜力及其对 AI 未来的影响。