На этой неделе на Github был выпущен новый Python-фреймворк под названием Orchestral AI, разработанный для упрощения оркестровки больших языковых моделей (LLM) для научных исследований и других приложений. Orchestral, разработанный теоретическим физиком Александром Романом и инженером-программистом Яковом Романом, стремится предоставить более воспроизводимую и экономичную альтернативу существующим, часто сложным, инструментам оркестровки AI, таким как LangChain, и специализированным комплектам разработки программного обеспечения (SDK) от таких поставщиков, как Anthropic и OpenAI.

Разработчики Orchestral AI утверждают, что современные инструменты оркестровки LLM ставят пользователей перед сложным выбором. Они либо отказываются от контроля в пользу сложных экосистем, либо оказываются заблокированными в решениях одного поставщика. Это особенно проблематично для ученых, которым требуются воспроизводимые результаты. По словам Романов, Orchestral разработан как решение для "научных вычислений", в котором приоритет отдается детерминированному выполнению и ясности отладки.

Основная философия Orchestral заключается в намеренном отказе от сложности, присущей многим современным инструментам AI. Фреймворк делает акцент на синхронных операциях и типовой безопасности, которые призваны повысить воспроизводимость. Это контрастирует с асинхронным, а иногда и менее предсказуемым характером других популярных фреймворков.

Рост популярности LLM привел к всплеску инструментов, предназначенных для помощи разработчикам в управлении и оркестровке этих мощных моделей. LangChain, например, предлагает комплексную экосистему для создания AI-агентов. Однако его сложность может стать барьером для входа для некоторых пользователей. Аналогично, хотя специализированные SDK предлагают оптимизированную производительность для своих моделей, они ограничивают гибкость и переносимость.

Необходимость воспроизводимого AI становится все более важной, особенно в научных исследованиях. Традиционные научные методы опираются на возможность воспроизведения экспериментов и проверки результатов. Однако присущая LLM неопределенность может затруднить достижение этого уровня воспроизводимости. Orchestral стремится решить эту проблему, предоставляя более контролируемую и предсказуемую среду для оркестровки LLM.

Последствия воспроизводимого AI выходят за рамки научных исследований. По мере того, как AI все больше интегрируется в различные аспекты общества, крайне важно обеспечить прозрачность, надежность и подотчетность AI-систем. Воспроизводимый AI может помочь укрепить доверие к AI-системам и способствовать их ответственному развертыванию.

Выпуск Orchestral AI представляет собой шаг к решению проблем сложности и воспроизводимости в оркестровке LLM. Пока неясно, насколько широко будет принят фреймворк, но его акцент на детерминированном выполнении и ясности отладки может сделать его ценным инструментом для ученых и других пользователей, которым требуются надежные и воспроизводимые результаты AI. Разработчики планируют и дальше совершенствовать Orchestral на основе отзывов и вклада сообщества.