На этой неделе на Github был выпущен новый Python-фреймворк под названием Orchestral AI, предназначенный для упрощения оркестровки больших языковых моделей (LLM) для научных и других приложений, требующих воспроизводимости. По данным VentureBeat, Orchestral, разработанный физиком-теоретиком Александром Романом и инженером-программистом Яковом Романом, стремится предоставить более детерминированную и прозрачную альтернативу сложным AI-экосистемам, таким как LangChain, и комплектам разработки программного обеспечения (SDK) от отдельных поставщиков, таких как Anthropic и OpenAI.

Фреймворк решает растущую проблему среди ученых и инженеров, которые считают существующие AI-инструменты непригодными для воспроизводимых исследований из-за их сложности и отсутствия контроля. Orchestral отдает приоритет синхронному выполнению и ясности отладки, в отличие от асинхронной и часто непрозрачной природы других платформ оркестровки. Этот подход, описываемый как архитектура "анти-фреймворка", намеренно отвергает сложность, которая, по мнению разработчиков, характеризует текущий рынок.

Появление автономных AI-агентов поставило разработчиков перед сложным выбором: принять всеобъемлющие, но сложные экосистемы, такие как LangChain, или привязаться к конкретным поставщикам и их проприетарным SDK. В то время как инженеры-программисты могут рассматривать это как неудобство, ученые, стремящиеся использовать AI для воспроизводимых исследований, часто считают это непреодолимым препятствием. Orchestral стремится устранить этот пробел, предлагая не зависящее от поставщика решение, которое обеспечивает больший контроль и прозрачность в оркестровке LLM.

Ориентация Orchestral на воспроизводимость особенно актуальна в научных вычислениях, где проверяемые и повторяемые результаты имеют первостепенное значение. Дизайн фреймворка подчеркивает детерминированное выполнение, что означает, что при одинаковых входных данных система будет последовательно выдавать одни и те же выходные данные. Эта предсказуемость имеет решающее значение для проверки результатов исследований и обеспечения надежности научных открытий, основанных на AI. Разработчики считают, что, уделяя приоритетное внимание ясности и контролю, Orchestral может дать исследователям возможность использовать возможности LLM, не жертвуя научной строгостью.

Выпуск Orchestral происходит в то время, когда AI-ландшафт быстро развивается, и постоянно появляются новые модели и инструменты. Открытый исходный код фреймворка и ориентация на независимость от поставщика могут способствовать сотрудничеству и инновациям в AI-сообществе. Поскольку AI продолжает проникать в различные аспекты общества, такие инструменты, как Orchestral, которые способствуют прозрачности и контролю, вероятно, будут играть все более важную роль в обеспечении ответственной и надежной разработки AI. Разработчики планируют продолжать итерации Orchestral на основе отзывов сообщества и ожидают дальнейшего улучшения его возможностей в ближайшие месяцы.