Helicone

LiteLLMはマルチモデル切り替え、ルーティング、コスト管理を簡素化する統一インターフェースとプロキシゲートウェイを提供します。

Langfuseはトレーシング、評価、プロンプトバージョニング、コスト分析をサポートするオープンソースLLM観測プラットフォームです。

DeepEvalは、LLMアプリケーション向けのオープンソース評価フレームワークです。

TruLensは、LLMアプリを評価および追跡するためのオープンソースツールです。