LinkedIn отказался от промпт-инжиниринга для своих рекомендательных систем нового поколения, выбрав стратегию, основанную на небольших, высокоточных моделях, по словам Эррана Бергера, вице-президента по разработке продуктов в LinkedIn. Выступая в подкасте Beyond the Pilot, Бергер объяснил, что промпт-инжиниринг, метод, включающий создание специальных текстовых входных данных для управления моделями ИИ, был признан непригодным для достижения желаемого уровня точности, задержки и эффективности.

Вместо этого команда ИИ LinkedIn разработала подробный документ о политике продукта для точной настройки модели с 7 миллиардами параметров, которая впоследствии была преобразована в меньшие модели учителя и ученика с сотнями миллионов параметров. Этот многоуровневый подход к дистилляции оказался прорывным, создав повторяемый процесс, который теперь используется во всем наборе продуктов ИИ LinkedIn.

Решение компании отказаться от промптинга подчеркивает растущую тенденцию в развитии ИИ: стремление к специализированным, эффективным моделям, адаптированным к конкретным задачам. В то время как большие языковые модели (LLM) приобрели известность благодаря своей универсальности, опыт LinkedIn показывает, что меньшие, точно настроенные модели могут предложить превосходную производительность в определенных приложениях, особенно там, где скорость и точность имеют первостепенное значение.

Бергер подчеркнул значительное улучшение качества, полученное в результате этого подхода. «Внедрение этого процесса оценки от начала до конца приведет к существенному улучшению качества, которого мы, вероятно, не видели здесь, в LinkedIn, уже много лет», — заявил он.

LinkedIn разрабатывает системы рекомендаций на основе ИИ уже более 15 лет, зарекомендовав себя как лидер в этой области. Рекомендательные системы компании играют решающую роль в соединении соискателей с соответствующими возможностями и помощи профессионалам в построении своих сетей. Этот новый подход направлен на дальнейшее повышение способности платформы предоставлять персонализированные и эффективные рекомендации.

Разработка этих меньших, более эффективных моделей имеет более широкие последствия для ландшафта ИИ. Это говорит о том, что будущее ИИ может включать в себя комбинацию больших моделей общего назначения и меньших специализированных моделей, работающих в тандеме. Этот подход может привести к созданию более устойчивых и масштабируемых решений ИИ, сокращая вычислительные ресурсы, необходимые для развертывания.

По мере развития ИИ опыт LinkedIn предлагает ценную информацию о проблемах и возможностях создания систем ИИ следующего поколения. Ориентация компании на эффективность и точность подчеркивает важность адаптации решений ИИ к конкретным потребностям, а не полагаться исключительно на обобщенные модели. Повторяемый "рецепт", разработанный LinkedIn, теперь повторно используется во всех продуктах ИИ компании.