Nevermined

新的代理工具使用 OpenTelemetry 跟踪 Gemini LLM 调用

一个名为 Agent Traced LLM Proxy 的新工具已被开发出来，用于提供对 LLM 调用的可见性，特别是通过 Vertex AI 对 Gemini 模型进行可见性。该代理与 OpenTelemetry 集成，为每个请求生成跟踪跨度，有助于调试、性能分析和理解应用程序中的 LLM 行为。该工具可以通过流式 HTTP 或 Agent-to-Agent 通信访问，并通过 Nevermined 微支付进行计量。