LiteLLM
LiteLLM bietet eine einheitliche Schnittstelle und ein Proxy-Gateway fuer LLM-Aufrufe und vereinfacht Multi-Model-Wechsel, Routing und Kostenkontrolle.
Orchestrierungs-Tools fur Agent-Workflows
LiteLLM bietet eine einheitliche Schnittstelle und ein Proxy-Gateway fuer LLM-Aufrufe und vereinfacht Multi-Model-Wechsel, Routing und Kostenkontrolle.
Haystack ist ein Enterprise-Framework fuer RAG- und Suchanwendungen und deckt Dokumentverarbeitung, Retrieval, Generierung und Evaluierung durchgaengig ab.
Flowise ist ein Low-Code-Builder fuer LLM-Anwendungen, mit dem sich Agent-Workflows und RAG-Apps per Drag-and-Drop erstellen lassen.
LangGraph ist ein Agent-Workflow-Orchestrierungsframework des LangChain-Teams, das Agentenzustaende und Uebergaenge als Graph modelliert.
Dify ist eine Open-Source-Entwicklungsplattform fuer LLM-Anwendungen mit visueller Agent-Orchestrierung und Unterstuetzung fuer Workflows, Wissensbasen und mehrere Modelle.
Promptflow ist ein Entwicklungs- und Evaluierungs-Toolkit fuer LLM-Anwendungen und Agent-Workflows, inklusive visueller Orchestrierung und Debugging.
TaskWeaver ist Microsofts Open-Source-Framework im Code-Interpreter-Stil fuer Agenten und eignet sich fuer Datenanalyse sowie komplexe Aufgabenautomatisierung.
DSPy ist ein deklaratives LLM-Programmierframework mit Fokus auf optimierbare Prompts und Programmstruktur, geeignet fuer komplexe Agent-Workflows.