लिंक्डइन ने प्रॉम्प्ट इंजीनियरिंग को दरकिनार करते हुए अपनी अगली पीढ़ी के नौकरी अनुशंसा प्रणाली के लिए छोटे, फाइन-ट्यून किए गए मॉडलों के साथ सफलता पाई। लिंक्डइन के उत्पाद इंजीनियरिंग के वीपी, एर्रान बर्जर ने हाल ही में "बियॉन्ड द पायलट" पॉडकास्ट में खुलासा किया कि कंपनी ने निर्धारित किया कि वांछित सटीकता, विलंबता और दक्षता सुधारों को प्राप्त करने के लिए प्रॉम्प्ट इंजीनियरिंग व्यवहार्य नहीं थी।

इसके बजाय, लिंक्डइन ने एक प्रारंभिक 7-बिलियन-पैरामीटर मॉडल को फाइन-ट्यून करने के लिए एक विस्तृत उत्पाद नीति दस्तावेज़ विकसित किया। फिर इस मॉडल को छोटे "शिक्षक" और "छात्र" मॉडल में डिस्टिल किया गया, जिसे सैकड़ों मिलियन पैरामीटर तक अनुकूलित किया गया। यह मल्टी-टीचर डिस्टिलेशन तकनीक एक सफलता साबित हुई, जिससे एक दोहराने योग्य प्रक्रिया बनी जिसका उपयोग अब लिंक्डइन के AI उत्पादों में किया जाता है। बर्जर ने कहा, "ऐसा कोई तरीका नहीं था जिससे हम प्रॉम्प्टिंग के माध्यम से ऐसा कर पाते।" "हमने अगली पीढ़ी के अनुशंसाकर्ता प्रणालियों के लिए इसकी कोशिश भी नहीं की क्योंकि हमें एहसास हुआ कि यह एक गैर-शुरुआती है।"

लिंक्डइन 15 वर्षों से अधिक समय से AI अनुशंसाकर्ता प्रणालियों का विकास कर रहा है। कंपनी नौकरी चाहने वालों को प्रासंगिक अवसरों से जोड़ने की अपनी क्षमता को बढ़ाने के लिए ऑफ-द-शेल्फ मॉडल से आगे बढ़ना चाहती थी। छोटे, अधिक विशिष्ट मॉडलों की ओर यह कदम AI विकास में एक बढ़ती प्रवृत्ति को दर्शाता है। जबकि बड़े भाषा मॉडल (LLM) ने महत्वपूर्ण ध्यान आकर्षित किया है, वे विशिष्ट कार्यों के लिए कम्प्यूटेशनल रूप से महंगे और अक्षम हो सकते हैं। लक्षित डेटासेट पर छोटे मॉडलों को फाइन-ट्यून करने से अधिक नियंत्रण, बेहतर प्रदर्शन और कम संसाधन खपत की अनुमति मिलती है।

इस प्रक्रिया में एक बड़ा, अधिक सामान्य मॉडल बनाना और फिर छोटे मॉडलों को एक विशिष्ट कार्य पर इसके व्यवहार की नकल करने के लिए प्रशिक्षित करना शामिल है। यह छोटे मॉडलों को अधिक कुशल और केंद्रित रहते हुए बड़े मॉडल के ज्ञान को विरासत में लेने की अनुमति देता है। AI विकास के लिए एक दोहराने योग्य "रेसिपी" का निर्माण लिंक्डइन के भीतर मानकीकृत और स्केलेबल AI समाधानों की दिशा में एक कदम का प्रतीक है।

बर्जर ने इस नए दृष्टिकोण के परिणामस्वरूप होने वाले महत्वपूर्ण गुणवत्ता सुधारों पर जोर दिया। उन्होंने कहा, "इस मूल्यांकन प्रक्रिया को शुरू से अंत तक अपनाने से गुणवत्ता में पर्याप्त सुधार होगा जो हमने शायद लिंक्डइन में वर्षों में नहीं देखा है।" कंपनी अब इस पद्धति को अपने AI उत्पाद सूट में लागू कर रही है, जो संगठन के भीतर फाइन-ट्यून किए गए, छोटे मॉडलों की ओर एक व्यापक बदलाव का सुझाव देता है। लिंक्डइन के दृष्टिकोण की सफलता AI-संचालित अनुशंसा प्रणालियों को विकसित करने वाली अन्य कंपनियों को प्रभावित कर सकती है, जिससे मॉडल डिस्टिलेशन और विशेष AI समाधानों पर अधिक जोर दिया जा सकता है।