nRouter AI 网关不会直接将请求日志发送到 Datadog 或 Langfuse 等平台。相反,关键的遥测数据,包括使用的模型、令牌计数、延迟和成本,都包含在响应标头中。用户被指示在应用程序内捕获这些标头,然后将结构化数据转发到他们选择的可观察性工具。这种方法将凭据保留在用户的环境中,并确保网关不会记录敏感的提示或响应文本。 AI
影响 这种方法将 LLM 遥测集中在用户应用程序内,增强了可观察性的数据控制和安全性。
排序理由 该项目描述了 AI 网关的特定产品功能和集成方法,而不是核心 AI 模型发布或研究。
- Amazon S3
- Datadog
- Google Cloud Storage
- Jira
- Langfuse
- nRouter
- Slack
- x-nr-cost-status
- x-nr-input-tokens
- x-nr-latency-ms
- x-nr-model
- x-nr-output-tokens
- x-nr-request-cost
- x-nr-request-id
- x-nr-tags
- x-nr-total-tokens
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →