LiteLLM
LiteLLM cung cấp giao diện thống nhất và cổng proxy cho các lệnh gọi LLM, đơn giản hóa việc chuyển đổi multi-model, định tuyến và kiểm soát chi phí.
Công cụ điều phối workflow cho agent
LiteLLM cung cấp giao diện thống nhất và cổng proxy cho các lệnh gọi LLM, đơn giản hóa việc chuyển đổi multi-model, định tuyến và kiểm soát chi phí.
Haystack là framework RAG và tìm kiếm cấp doanh nghiệp, bao gồm xử lý tài liệu, truy xuất, tạo và đánh giá từ đầu đến cuối.
Flowise là công cụ low-code cho ứng dụng LLM, cho phép tạo workflow agent và ứng dụng RAG với giao diện kéo thả.
LangGraph là framework điều phối workflow agent từ nhóm LangChain, sử dụng cấu trúc đồ thị để mô hình hóa trạng thái và chuyển đổi của agent.
Dify là nền tảng phát triển ứng dụng LLM mã nguồn mở với giao diện điều phối agent trực quan, hỗ trợ workflow, knowledge base và nhiều model.
Promptflow là bộ công cụ phát triển và đánh giá cho ứng dụng LLM và workflow agent, với điều phối trực quan và gỡ lỗi.
TaskWeaver là framework agent kiểu trình thông dịch mã nguồn mở của Microsoft, phù hợp cho phân tích dữ liệu và tự động hóa tác vụ phức tạp.
DSPy là framework lập trình LLM khai báo tập trung vào prompt và cấu trúc chương trình có thể tối ưu hóa, phù hợp cho workflow agent phức tạp.