PulseAugur
中
实时 09:25:58

新的代理工具增强了 Gemini LLM 的追踪和监控

作者 PulseAugur 编辑部 · [1 个来源] ·

一款名为 Traced LLM MCP Proxy 的新工具已被开发出来，以增强对 Gemini LLM completions 的可见性，特别是那些托管在 Vertex AI 上的。该代理充当中介，用 OpenTelemetry trace spans 包装 Gemini 调用，以帮助开发人员监控性能、识别延迟瓶颈并将 LLM 交互与其他系统操作相关联。该工具支持通过 MCP 的 streamable-http 接口或 Agent-to-Agent 消息进行通信，并利用 Nevermined x402 微支付来计量其核心 'complete' 方法的执行。 AI

影响 为开发人员提供了增强的可见性和调试能力，以集成 Gemini LLM。

排序理由 这是对一款面向开发人员的新软件工具的描述，而不是核心 AI 版本或重要的行业事件。

在 dev.to — LLM tag 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

新的代理工具增强了 Gemini LLM 的追踪和监控

报道来源 [1]

  1. dev.to — LLM tag TIER_1 English(EN) · mikerawsonnz ·

    Traced LLM MCP Proxy: Gemini Completions with OpenTelemetry Tracing

    <h2> Tracing Your Gemini Calls with <code>Traced LLM MCP Proxy</code> </h2> <p>As developers, we often integrate Large Language Models (LLMs) into our applications. While powerful, debugging and monitoring these integrations can be a challenge. How do you track the performance of…

相关实体

相关话题