লিঙ্কডইন প্রম্পট ইঞ্জিনিয়ারিংয়ের পথ পরিহার করে মডেল ডিস্টিলেশনের মাধ্যমে তাদের পরবর্তী প্রজন্মের সুপারিশ সিস্টেম তৈরি করেছে। Beyond the Pilot পডকাস্টে লিঙ্কডইনের প্রোডাক্ট ইঞ্জিনিয়ারিংয়ের ভাইস প্রেসিডেন্ট এররান বার্জার এই তথ্য জানান। এআই রিকমেন্ডার সিস্টেমের ক্ষেত্রে দীর্ঘদিন ধরে শীর্ষস্থানে থাকা এই কোম্পানি দেখেছে যে চাকরিপ্রার্থীদের সঙ্গে কাজের সুযোগের মিল ঘটাতে প্রয়োজনীয় নির্ভুলতা, লেটেন্সি এবং দক্ষতার কাঙ্ক্ষিত মাত্রা অর্জনের জন্য প্রম্পট ইঞ্জিনিয়ারিং যথেষ্ট নয়।

বার্গার জানান, এই বিশেষ অ্যাপ্লিকেশনের জন্য প্রম্পটিংকে "শুরু করার মতো নয়" বলেই মনে করা হয়েছিল। এর পরিবর্তে, লিঙ্কডইন একটি প্রাথমিক ৭ বিলিয়ন প্যারামিটারের মডেলকে সূক্ষ্মভাবে টিউন করার জন্য একটি বিস্তারিত প্রোডাক্ট পলিসি ডকুমেন্ট তৈরি করে। এরপর এই মডেলটিকে ছোট, আরও দক্ষ শিক্ষক এবং শিক্ষার্থী মডেলে ডিস্টিল করা হয়, যেগুলোকে কয়েক মিলিয়ন প্যারামিটারে অপ্টিমাইজ করা হয়েছে। মাল্টি-টিচার ডিস্টিলেশনের এই প্রক্রিয়াটিই মূল সাফল্য এনে দিয়েছে।

মডেল ডিস্টিলেশন হল মেশিন লার্নিংয়ের একটি কৌশল, যেখানে একটি ছোট, আরও দক্ষ মডেলকে (শিক্ষার্থী) একটি বৃহত্তর, আরও জটিল মডেলের (শিক্ষক) আচরণ অনুকরণ করার জন্য প্রশিক্ষণ দেওয়া হয়। এর ফলে উল্লেখযোগ্য নির্ভুলতা ত্যাগ না করে সীমিত সম্পদের পরিবেশে এআই মডেল স্থাপন করা যায়। লিঙ্কডইনের ক্ষেত্রে, প্রাথমিক ৭ বিলিয়ন প্যারামিটারের মডেলটি নির্দিষ্ট সুপারিশের কাজের জন্য তৈরি করা ছোট, আরও বিশেষায়িত মডেল তৈরির ভিত্তি হিসেবে কাজ করেছে।

এই নতুন পদ্ধতির বিকাশের ফলে একটি পুনরাবৃত্তিযোগ্য "cookbook" তৈরি হয়েছে, যা এখন লিঙ্কডইনের বিভিন্ন এআই প্রোডাক্টে প্রয়োগ করা হচ্ছে। বার্জার আশা করছেন যে এই এন্ড-টু-এন্ড মূল্যায়ন প্রক্রিয়ার adoption-এর ফলে গুণগত মানের যথেষ্ট উন্নতি হবে, যা সাম্প্রতিক বছরগুলোতে দেখা যায়নি।

লিঙ্কডইনের অভিজ্ঞতা এআই কমিউনিটিতে একটি ক্রমবর্ধমান প্রবণতাকে তুলে ধরে: বৃহৎ ভাষা মডেলের সঙ্গে শুধুমাত্র প্রম্পট ইঞ্জিনিয়ারিংয়ের উপর নির্ভর না করে বিশেষায়িত, সূক্ষ্মভাবে টিউন করা মডেলের দিকে সরে যাওয়া। প্রম্পটিংয়ের নিজস্ব স্থান থাকলেও, উচ্চ নির্ভুলতা এবং কম লেটেন্সি প্রয়োজন এমন জটিল কাজের জন্য এটি সবসময় সবচেয়ে কার্যকর বা দক্ষ সমাধান নাও হতে পারে। মডেল ডিস্টিলেশনের মাধ্যমে কোম্পানির সাফল্য থেকে বোঝা যায় যে, সতর্কতার সঙ্গে মডেল ডিজাইন এবং প্রশিক্ষণসহ একটি আরও সুনির্দিষ্ট পদ্ধতি কিছু অ্যাপ্লিকেশনের ক্ষেত্রে আরও ভালো ফল দিতে পারে। এই পদ্ধতির প্রভাব সুপারিশ সিস্টেমের বাইরেও বিস্তৃত হতে পারে, যা বিভিন্ন শিল্পে এআই সমাধানের বিকাশে প্রভাব ফেলবে।