TodayAI
开发

Grepture

开源 AI 网关,在请求路径上追踪、评估并保护每一次 LLM 调用

访问官网

访问方式:免费增值

它是什么

Grepture 是开源 AI 网关,通过可直接替换的 TypeScript SDK 接入 OpenAI、Anthropic、Gemini 等模型提供商。它在请求路径上对敏感信息进行可逆脱敏、拦截提示注入,并记录请求日志、多步追踪与成本数据。内置基于 LLM-as-judge 的评估,可对线上流量打分。支持零数据模式与欧盟托管,也可自行部署。

典型使用场景

  • 追踪并调试 LLM 请求与多步调用
  • 对提示词和响应中的 PII 进行脱敏
  • 统计各模型的 token 成本
  • 对线上流量进行 LLM-as-judge 评估
  • 为 AI 应用与代理提供统一网关

工具信息

访问方式
免费增值
分类
开发
标签
AI 网关 · 可观测性 · PII 脱敏 · 评估 · 成本追踪 · 开源 · coding

相关合集: 免费 AI 工具

官方资料