开发
LLM Gateway
一个 API 接入 40+ 提供商,统一路由 250+ 模型
访问官网
访问方式:未知
它是什么
LLM Gateway 是开源 LLM API 网关,提供兼容 OpenAI 的统一接口,可将请求路由到 OpenAI、Anthropic、Google 等 40+ 提供商的 250+ 模型。它支持实时成本追踪、按模型与提供商的使用分析、错误与可靠性监控,以及密钥管理和故障转移。产品可云端托管或自托管部署,核心以 AGPLv3 开源,企业版提供 SSO、审计日志、护栏和支出上限等功能。
典型使用场景
- 统一接入多家模型提供商
- 跨模型路由与故障转移
- 追踪请求成本与用量
- 自托管部署 LLM 网关
工具信息
- 分类
- 开发
- 标签
- LLM 网关 · API 网关 · 开源 · 多模型路由 · 成本分析 · other