LiteLLM
LiteLLM предоставляет унифицированный интерфейс и прокси-шлюз для вызовов LLM, упрощая переключение между моделями, маршрутизацию и контроль затрат.
Инструменты оркестрации рабочих процессов агентов
LiteLLM предоставляет унифицированный интерфейс и прокси-шлюз для вызовов LLM, упрощая переключение между моделями, маршрутизацию и контроль затрат.
Haystack — это фреймворк уровня предприятия для RAG и поисковых приложений, охватывающий обработку документов, извлечение, генерацию и оценку от начала до конца.
Flowise — это low-code конструктор LLM-приложений, позволяющий создавать рабочие процессы агентов и RAG-приложения с помощью drag-and-drop интерфейса.
LangGraph — это фреймворк оркестрации рабочих процессов агентов от команды LangChain, использующий графовые структуры для моделирования состояний и переходов.
Dify — это платформа разработки LLM-приложений с открытым исходным кодом, с визуальным интерфейсом оркестрации агентов, поддержкой рабочих процессов, баз знаний и множества моделей.
Promptflow — это набор инструментов разработки и оценки для LLM-приложений и рабочих процессов агентов с визуальной оркестрацией и отладкой.
TaskWeaver — это фреймворк агентов в стиле интерпретатора кода с открытым исходным кодом от Microsoft, подходящий для анализа данных и автоматизации сложных задач.
DSPy — это декларативный фреймворк программирования LLM с акцентом на оптимизируемые промпты и структуру программ, подходящий для сложных рабочих процессов агентов.