领英（LinkedIn）产品工程副总裁 Erran Berger 表示，领英绕过了提示工程，而是采用模型蒸馏技术来创建其下一代 AI 推荐系统。Berger 在 Beyond the Pilot 播客节目中表示，提示工程被认为是实现必要的准确性、延迟和效率改进的“不可行方案”。

领英没有依赖提示工程，而是制定了一份详细的产品策略文件，用于微调一个拥有 70 亿参数的模型，随后将其蒸馏成更小、更优化的教师模型和学生模型，这些模型拥有数亿个参数。这种被称为多教师蒸馏的方法已成为领英 AI 产品中可重复使用的方法。

领英开发 AI 推荐系统已有 15 年以上的历史。该公司发现，现成的模型不足以满足其求职平台的需求。转向模型蒸馏代表着战略上的重大转变，优先考虑定制解决方案，而不是通过提示来利用现有的大型语言模型 (LLM)。

模型蒸馏是一种技术，其中训练一个更小、更高效的模型（学生）来模仿一个更大、更复杂的模型（教师）的行为。在领英的案例中，使用了多个教师模型来指导学生模型，从而提高其性能。这个过程可以创建既强大又资源高效的 AI 模型，这对于大规模应用来说至关重要。

Berger 强调了这种新评估过程的影响，并表示它将“推动领英多年来可能未曾见过的重大质量改进”。该公司认为，这种方法将为其用户带来更相关和个性化的职位推荐。

这一发展突显了 AI 行业的一个日益增长的趋势：转向为特定任务设计的专业化、微调模型。虽然大型语言模型已获得广泛关注，但像领英这样的公司发现，定制解决方案可以在某些应用中提供卓越的性能。这种趋势的意义可能会导致一个更加多样化的 AI 格局，其中更小、更高效的模型将发挥越来越重要的作用。