تخلّت LinkedIn عن هندسة المطالبات، وبدلاً من ذلك حققت نجاحًا باستخدام نماذج أصغر ومُحسّنة لنظام توصيات الوظائف من الجيل التالي. كشف إران بيرغر، نائب رئيس هندسة المنتجات في LinkedIn، في بودكاست حديث بعنوان "Beyond the Pilot" أن الشركة قررت أن هندسة المطالبات لم تكن قابلة للتطبيق لتحقيق التحسينات المطلوبة في الدقة وزمن الوصول والكفاءة.
بدلاً من ذلك، طورت LinkedIn وثيقة سياسة منتج مفصلة لضبط نموذج أولي بـ 7 مليارات معلمة. ثم تم تقطير هذا النموذج إلى نماذج "معلم" و"طالب" أصغر، تم تحسينها لتصل إلى مئات الملايين من المعلمات. أثبتت تقنية التقطير متعددة المعلمين هذه أنها طفرة، حيث أنشأت عملية قابلة للتكرار تُستخدم الآن في جميع منتجات الذكاء الاصطناعي في LinkedIn. قال بيرغر: "لم تكن هناك طريقة تمكننا من القيام بذلك من خلال المطالبات". "لم نحاول حتى ذلك لأنظمة التوصية من الجيل التالي لأننا أدركنا أنه أمر غير وارد."
تعمل LinkedIn على تطوير أنظمة توصية مدعومة بالذكاء الاصطناعي منذ أكثر من 15 عامًا. سعت الشركة إلى تجاوز النماذج الجاهزة لتعزيز قدرتها على ربط الباحثين عن عمل بفرص ذات صلة. تعكس هذه الخطوة نحو نماذج أصغر وأكثر تخصصًا اتجاهًا متزايدًا في تطوير الذكاء الاصطناعي. في حين أن نماذج اللغة الكبيرة (LLMs) قد حظيت باهتمام كبير، إلا أنها يمكن أن تكون مكلفة حسابيًا وغير فعالة لمهام محددة. يتيح ضبط النماذج الأصغر على مجموعات بيانات مستهدفة تحكمًا أكبر وأداءً محسّنًا واستهلاكًا أقل للموارد.
تتضمن العملية إنشاء نموذج أكبر وأكثر عمومية ثم تدريب نماذج أصغر لتقليد سلوكه في مهمة معينة. يتيح ذلك للنماذج الأصغر وراثة معرفة النموذج الأكبر مع البقاء أكثر كفاءة وتركيزًا. يمثل إنشاء "كتاب طبخ" قابل للتكرار لتطوير الذكاء الاصطناعي خطوة نحو حلول الذكاء الاصطناعي الموحدة والقابلة للتطوير داخل LinkedIn.
أكد بيرغر على التحسينات الكبيرة في الجودة الناتجة عن هذا النهج الجديد. صرح قائلاً: "إن اعتماد عملية التقييم هذه من البداية إلى النهاية سيؤدي إلى تحسين كبير في الجودة لم نشهده على الأرجح منذ سنوات هنا في LinkedIn". تقوم الشركة الآن بتطبيق هذه المنهجية عبر مجموعة منتجات الذكاء الاصطناعي الخاصة بها، مما يشير إلى تحول أوسع نحو نماذج أصغر ومُحسّنة داخل المؤسسة. يمكن أن يؤثر نجاح نهج LinkedIn على الشركات الأخرى التي تطور أنظمة توصية مدعومة بالذكاء الاصطناعي، مما قد يؤدي إلى زيادة التركيز على تقطير النماذج وحلول الذكاء الاصطناعي المتخصصة.
Discussion
Join the conversation
Be the first to comment