На этой неделе на Github был выпущен новый Python-фреймворк под названием Orchestral AI, разработанный для упрощения оркестровки больших языковых моделей (LLM) в целях воспроизводимых исследований и экономически эффективных научных приложений. Orchestral, разработанный физиком-теоретиком Александром Романом и инженером-программистом Джейкобом Романом, призван предоставить альтернативу сложным AI-экосистемам, таким как LangChain, и SDK с привязкой к поставщику от таких провайдеров, как Anthropic или OpenAI.

Фреймворк уделяет первостепенное внимание детерминированному выполнению и ясности отладки, решая проблемы, с которыми сталкиваются ученые при использовании ИИ для воспроизводимых исследований. По словам разработчиков, текущая ситуация часто вынуждает разработчиков выбирать между отказом от контроля в пользу сложных систем или ограничением конкретными решениями поставщиков, что создает значительные препятствия для научной воспроизводимости.

Orchestral AI разработан с "анти-фреймворковой" архитектурой, намеренно отвергающей сложность, которая характеризует большую часть текущего рынка инструментов ИИ. Этот подход делает акцент на синхронных операциях и типовой безопасности, способствуя предсказуемому поведению и упрощению отладки. Разработчики позиционируют Orchestral как "научно-вычислительный" ответ на оркестровку агентов, уделяя особое внимание надежности и прозрачности.

Выпуск Orchestral AI происходит в то время, когда разработка автономных AI-агентов стремительно ускоряется. Многие существующие инструменты полагаются на асинхронные операции, которые могут вносить изменчивость и затруднять отслеживание потока выполнения. Синхронная конструкция Orchestral направлена на смягчение этих проблем, обеспечивая более контролируемую среду для научных экспериментов.

Независимость фреймворка от поставщика является еще одной ключевой особенностью, позволяющей исследователям переключаться между различными поставщиками LLM без значительных изменений кода. Эта гибкость может иметь решающее значение для оптимизации затрат и адаптации к развивающемуся ландшафту технологий LLM.

Разработчики надеются, что Orchestral AI снизит порог вхождения для ученых, стремящихся использовать возможности LLM в своих исследованиях, способствуя более воспроизводимым и прозрачным научным открытиям, основанным на ИИ. Фреймворк доступен на Github, приглашая к участию сообщество разработчиков открытого исходного кода.