LinkedIn a contourné l'ingénierie des prompts pour ses systèmes de recommandation de nouvelle génération, optant plutôt pour une stratégie centrée sur des modèles petits et hautement raffinés, selon Erran Berger, vice-président de l'ingénierie produit chez LinkedIn. S'exprimant sur le podcast Beyond the Pilot, Berger a expliqué que l'ingénierie des prompts, une technique consistant à élaborer des entrées de texte spécifiques pour guider les modèles d'IA, a été jugée inappropriée pour atteindre les niveaux souhaités de précision, de latence et d'efficacité.

Au lieu de cela, l'équipe d'IA de LinkedIn a développé un document de politique produit détaillé pour affiner un modèle de 7 milliards de paramètres, qui a ensuite été distillé en modèles maître et élève plus petits avec des centaines de millions de paramètres. Cette approche de distillation multi-maîtres s'est avérée être une percée, créant un processus reproductible maintenant utilisé dans toute la suite de produits d'IA de LinkedIn.

La décision de l'entreprise de s'éloigner des prompts met en évidence une tendance croissante dans le développement de l'IA : la recherche de modèles spécialisés et efficaces adaptés à des tâches spécifiques. Alors que les grands modèles de langage (LLM) ont gagné en importance pour leur polyvalence, l'expérience de LinkedIn suggère que des modèles plus petits et affinés peuvent offrir des performances supérieures dans certaines applications, en particulier lorsque la vitesse et la précision sont primordiales.

Berger a souligné les améliorations significatives de la qualité résultant de cette approche. « L'adoption de ce processus d'évaluation de bout en bout entraînera une amélioration substantielle de la qualité, comme nous n'en avons probablement pas vu depuis des années chez LinkedIn », a-t-il déclaré.

LinkedIn développe des systèmes de recommandation d'IA depuis plus de 15 ans, s'imposant comme un leader dans le domaine. Les systèmes de recommandation de l'entreprise jouent un rôle crucial en mettant en relation les demandeurs d'emploi avec les opportunités pertinentes et en aidant les professionnels à développer leurs réseaux. Cette nouvelle approche vise à améliorer encore la capacité de la plateforme à fournir des recommandations personnalisées et efficaces.

Le développement de ces modèles plus petits et plus efficaces a des implications plus larges pour le paysage de l'IA. Cela suggère que l'avenir de l'IA pourrait impliquer une combinaison de grands modèles à usage général et de modèles spécialisés plus petits travaillant en tandem. Cette approche pourrait conduire à des solutions d'IA plus durables et évolutives, réduisant les ressources de calcul nécessaires au déploiement.

Alors que l'IA continue d'évoluer, l'expérience de LinkedIn offre des informations précieuses sur les défis et les opportunités de la construction de systèmes d'IA de nouvelle génération. L'accent mis par l'entreprise sur l'efficacité et la précision souligne l'importance d'adapter les solutions d'IA aux besoins spécifiques, plutôt que de s'appuyer uniquement sur des modèles généralisés. Le guide reproductible développé par LinkedIn est maintenant réutilisé dans tous les produits d'IA de l'entreprise.