TodayAI

资源库

可观测性与基础设施 Open Source

面向 LLM 可观测、追踪、网关与基础设施的开源项目。

AgentOps

AgentOps-AI/agentops

面向 Agent 运行观测与调试的开源工具包。

agentobservabilitydevtools
可观测性与基础设施PythonMIT

Braintrust SDK

braintrustdata/braintrust-sdk

面向 AI 产品实验与评估的开源 SDK。

evaluationobservabilitysdk
可观测性与基础设施TypeScriptApache-2.0

DVC

iterative/dvc

面向数据与模型版本管理的开源工具。

mlopsversioningdata
可观测性与基础设施PythonApache-2.0

Helicone

Helicone/helicone

面向 LLM 请求可观测与管理的开源网关。

observabilitygatewayllm
可观测性与基础设施TypeScriptApache-2.0

Langfuse

langfuse/langfuse

开源 LLM 工程可观测与追踪平台。

observabilitytracingllm
可观测性与基础设施TypeScriptMIT

LiteLLM

BerriAI/litellm

统一调用多家 LLM API 的开源代理层。

gatewayllmproxy
可观测性与基础设施PythonMIT

MLflow

mlflow/mlflow

开源机器学习生命周期管理平台。

observabilitymlopstracking
可观测性与基础设施PythonApache-2.0

OpenLIT

openlit/openlit

面向 GenAI 的开源可观测与评估工具。

observabilityotelllm
可观测性与基础设施PythonApache-2.0

OpenLLMetry

traceloop/openllmetry

基于 OpenTelemetry 的 LLM 可观测性工具集。

observabilityotelllm
可观测性与基础设施PythonApache-2.0

OpenTelemetry Python

open-telemetry/opentelemetry-python

OpenTelemetry Python SDK,常用于 LLM 追踪集成。

observabilityotelsdk
可观测性与基础设施PythonApache-2.0

Phoenix

Arize-ai/phoenix

面向 LLM 可观测与评估的开源平台。

observabilityevaluationtracing
可观测性与基础设施PythonElastic-2.0

Portkey Gateway

Portkey-AI/gateway

面向 LLM 路由与可靠性的开源 AI 网关。

gatewayllmrouting
可观测性与基础设施TypeScriptMIT

Prefect

PrefectHQ/prefect

面向数据与 AI 工作流编排的开源平台。

workfloworchestrationmlops
可观测性与基础设施PythonApache-2.0

Ray

ray-project/ray

面向分布式 AI 与 Python 应用的计算框架。

distributedtraininginfrastructure
可观测性与基础设施PythonApache-2.0

Weights & Biases Client

wandb/wandb

实验跟踪与模型管理的开源客户端。

observabilitymlopstracking
可观测性与基础设施PythonMIT