领英避开了提示工程，而是采用模型蒸馏来创建其下一代 AI 推荐系统。领英产品工程副总裁 Erran Berger 在最近的 Beyond the Pilot 播客中透露了这一消息。该公司发现，提示工程无法实现其求职者推荐所需的准确性、延迟和效率提升。

相反，领英制定了一份详细的产品策略文档，用于微调一个拥有 70 亿参数的模型，然后将其蒸馏成具有数亿参数的较小的教师模型和学生模型。这种多教师蒸馏过程被证明是一项突破，创造了一种可重复的方法，现在已在领英的 AI 产品中广泛使用。“我们根本不可能通过提示来实现这一点，”Berger 说。“我们甚至没有尝试将其用于下一代推荐系统，因为我们意识到这是行不通的。”

领英开发 AI 推荐系统已有 15 年以上的历史，使其成为该领域的领导者。该公司决定超越现成的模型，反映了 AI 开发领域日益增长的趋势，即组织越来越多地根据特定需求和数据集定制模型。模型蒸馏是领英采用的技术，它涉及训练一个更小、更高效的模型（学生）来模仿一个更大、更复杂的模型（教师）的行为。这种方法可以显著降低计算成本，并提高资源受限环境中的性能。

领英方法的意义不仅限于职位推荐领域。该公司在模型蒸馏方面的成功表明，组织有潜力创建高度定制的 AI 解决方案，而无需仅仅依赖大型预训练模型或广泛的提示工程。这可能会在各个行业中带来更易于访问和更高效的 AI 应用。

Berger 预计，由于采用了这种端到端的评估流程，领英的 AI 产品质量将得到显著提升。“采用这种端到端的评估流程将推动我们领英多年来可能未曾见过的质量大幅提升，”他表示。该公司计划继续改进其模型蒸馏技术，并将其应用于平台上的其他 AI 驱动功能。