Spanlens 是一个新推出的开源 LLM 可观测性平台,旨在帮助开发人员监控和优化其 AI 应用程序交互。它通过充当代理来记录每次 API 调用的详细信息,并与 OpenAI、Anthropic、Gemini 和 Mistral 等各种 LLM 提供商集成。该平台提供成本跟踪、代理跟踪、异常检测以及针对 PII 和提示注入的安全扫描功能。 AI
影响 为开发人员提供监控和优化 LLM 使用情况的工具,可能降低成本并提高性能。
排序理由 这是面向开发人员的新产品发布,不是前沿模型发布或重大的行业事件。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →