开发
Grepture
开源 AI 网关,在请求路径上追踪、评估并保护每一次 LLM 调用
访问官网
访问方式:免费增值
它是什么
Grepture 是开源 AI 网关,通过可直接替换的 TypeScript SDK 接入 OpenAI、Anthropic、Gemini 等模型提供商。它在请求路径上对敏感信息进行可逆脱敏、拦截提示注入,并记录请求日志、多步追踪与成本数据。内置基于 LLM-as-judge 的评估,可对线上流量打分。支持零数据模式与欧盟托管,也可自行部署。
典型使用场景
- 追踪并调试 LLM 请求与多步调用
- 对提示词和响应中的 PII 进行脱敏
- 统计各模型的 token 成本
- 对线上流量进行 LLM-as-judge 评估
- 为 AI 应用与代理提供统一网关
工具信息
- 访问方式
- 免费增值
- 分类
- 开发
- 标签
- AI 网关 · 可观测性 · PII 脱敏 · 评估 · 成本追踪 · 开源 · coding
相关合集: 免费 AI 工具