Quan sát

AgentOps là nền tảng quan sát cho AI agent, cung cấp giám sát, gỡ lỗi và đánh giá để giúp nhà phát triển tối ưu hóa hiệu suất agent.

Phoenix là công cụ quan sát và đánh giá mã nguồn mở cho ứng dụng LLM và agent, hỗ trợ tracing trực tuyến và chẩn đoán ngoại tuyến.

DeepEval là framework đánh giá mã nguồn mở cho ứng dụng LLM.

Ragas là framework để đánh giá hệ thống RAG (Retrieval Augmented Generation).

Helicone là nền tảng proxy và quan sát mã nguồn mở cho ứng dụng LLM, cung cấp tracing request, caching và phân tích chi phí.

Langfuse là nền tảng quan sát LLM mã nguồn mở, hỗ trợ tracing, đánh giá, versioning prompt và phân tích chi phí.

TruLens là công cụ mã nguồn mở để đánh giá và theo dõi các ứng dụng LLM.