लिंक्डइन ने प्रॉम्प्ट इंजीनियरिंग को दरकिनार करते हुए, अपनी अगली पीढ़ी के AI अनुशंसा प्रणाली बनाने के लिए मॉडल डिस्टिलेशन का उपयोग किया, लिंक्डइन के उत्पाद इंजीनियरिंग के उपाध्यक्ष एर्रान बर्जर के अनुसार। बियॉन्ड द पायलट पॉडकास्ट पर बोलते हुए, बर्जर ने कहा कि आवश्यक सटीकता, विलंबता और दक्षता में सुधार प्राप्त करने के लिए प्रॉम्प्टिंग को "गैर-शुरुआती" माना गया था।

प्रॉम्प्ट इंजीनियरिंग पर निर्भर रहने के बजाय, लिंक्डइन ने 7 बिलियन-पैरामीटर मॉडल को ठीक करने के लिए एक विस्तृत उत्पाद नीति दस्तावेज़ विकसित किया, जिसे बाद में सैकड़ों लाखों पैरामीटर वाले छोटे, अनुकूलित शिक्षक और छात्र मॉडल में डिस्टिल किया गया। इस दृष्टिकोण को, मल्टी-टीचर डिस्टिलेशन के रूप में जाना जाता है, लिंक्डइन के AI उत्पादों में उपयोग की जाने वाली एक दोहराने योग्य विधि बन गई है।

लिंक्डइन 15 वर्षों से अधिक समय से AI अनुशंसा प्रणाली विकसित कर रहा है। कंपनी ने पाया कि ऑफ-द-शेल्फ मॉडल उसके नौकरी-खोज प्लेटफॉर्म की मांगों को पूरा करने के लिए अपर्याप्त थे। मॉडल डिस्टिलेशन की ओर बढ़ना रणनीति में एक महत्वपूर्ण बदलाव का प्रतिनिधित्व करता है, जो प्रॉम्प्टिंग के माध्यम से मौजूदा बड़े भाषा मॉडल (LLM) का लाभ उठाने के बजाय कस्टम-निर्मित समाधानों को प्राथमिकता देता है।

मॉडल डिस्टिलेशन एक तकनीक है जहाँ एक छोटा, अधिक कुशल मॉडल (छात्र) को एक बड़े, अधिक जटिल मॉडल (शिक्षक) के व्यवहार की नकल करने के लिए प्रशिक्षित किया जाता है। लिंक्डइन के मामले में, छात्र मॉडल का मार्गदर्शन करने के लिए कई शिक्षक मॉडल का उपयोग किया गया, जिससे उसके प्रदर्शन में वृद्धि हुई। यह प्रक्रिया AI मॉडल के निर्माण की अनुमति देती है जो शक्तिशाली और संसाधन-कुशल दोनों हैं, जो बड़े पैमाने के अनुप्रयोगों के लिए एक महत्वपूर्ण कारक है।

बर्जर ने इस नई मूल्यांकन प्रक्रिया के प्रभाव पर जोर देते हुए कहा कि यह "उस तरह की पर्याप्त गुणवत्ता में सुधार लाएगा जो हमने शायद लिंक्डइन में वर्षों से नहीं देखा है।" कंपनी का मानना है कि यह दृष्टिकोण अपने उपयोगकर्ताओं के लिए अधिक प्रासंगिक और व्यक्तिगत नौकरी अनुशंसाओं की ओर ले जाएगा।

यह विकास AI उद्योग में एक बढ़ती प्रवृत्ति को उजागर करता है: विशिष्ट कार्यों के लिए डिज़ाइन किए गए विशेष, ठीक-ठाक मॉडल की ओर बढ़ना। जबकि बड़े भाषा मॉडल ने महत्वपूर्ण ध्यान आकर्षित किया है, लिंक्डइन जैसी कंपनियों को पता चल रहा है कि कस्टम समाधान कुछ अनुप्रयोगों में बेहतर प्रदर्शन प्रदान कर सकते हैं। इस प्रवृत्ति के निहितार्थ एक अधिक विविध AI परिदृश्य को जन्म दे सकते हैं, जिसमें छोटे, अधिक कुशल मॉडल तेजी से महत्वपूर्ण भूमिका निभाते हैं।