LangSmith 的新 LLM Gateway 为 AI 代理提供运行时治理,解决了预算和合规性风险。它直接集成到代理和 LLM 提供商之间的请求路径中,支持诸如硬性支出限制(在超出预算前停止 API 调用)和 PII 屏蔽(用于屏蔽提示和跟踪中的敏感数据)等功能。这种方法旨在防止成本失控和数据泄露,而无需重写现有代理逻辑,并通过屏蔽的跟踪保留完整的可观察性。 AI
影响 增强了对 AI 代理的治理,降低了企业和开发者的成本和合规性风险。
排序理由 这是对现有平台(LangSmith)的产品更新,增加了管理 AI 代理的新功能,而不是核心 AI 模型发布或研究突破。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →