领英产品工程副总裁Erran Berger在Beyond the Pilot播客节目中表示，领英绕过了提示工程，而是使用模型蒸馏技术来创建其下一代推荐系统。这家长期以来在AI推荐系统领域处于领先地位的公司发现，提示工程不足以达到将求职者与机会进行匹配所需的准确性、延迟和效率水平。

Berger表示，对于这个特定应用来说，提示被认为是“行不通的”。相反，领英制定了一份详细的产品策略文档，以微调最初的70亿参数模型。然后，该模型被提炼成更小、更高效的教师模型和学生模型，优化到数亿个参数。这种多教师蒸馏的过程被证明是关键的突破。

模型蒸馏是一种机器学习技术，其中训练一个更小、更高效的模型（学生）来模仿一个更大、更复杂的模型（教师）的行为。这使得AI模型能够在资源受限的环境中部署，而不会牺牲显著的准确性。在领英的案例中，最初的70亿参数模型是创建更小、更专业的模型的基础，这些模型是为特定的推荐任务量身定制的。

这种新方法的开发已经产生了一个可重复的“食谱”，现在正在领英的各种AI产品中应用。Berger预计，采用这种端到端评估流程将带来质量上的显著提升，超过近年来所见的水平。

领英的经验突显了AI社区中日益增长的趋势：转向专业化、微调的模型，而不是仅仅依赖于大型语言模型的提示工程。虽然提示有其用武之地，但对于需要高精度和低延迟的复杂任务来说，它可能并不总是最有效或最高效的解决方案。该公司在模型蒸馏方面的成功表明，一种更有针对性的方法，包括仔细的模型设计和训练，可以在某些应用中产生更好的结果。这种方法的影响可能会超出推荐系统，影响各个行业AI解决方案的开发。