实体
LLM Observability Pocket Guide
LLM Observability Pocket Guide
PulseAugur coverage of LLM Observability Pocket Guide — every cluster mentioning LLM Observability Pocket Guide across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
LLM评估工具：确保长期可用性的关键问题
选择LLM评估工具需要仔细考虑，而不仅仅是功能，因为供应商锁定可能成为一个重大问题。文章建议在承诺使用某个工具之前，提出四个关键问题，重点关注长期可用性和数据所有权。关键考虑因素包括工具是否真正支持自托管、企业功能的许可影响以及是否能够轻松导出和保留评估数据集的所有权。
-
LLM 智能体追踪采样：通过采样有价值的追踪，而非随机追踪来削减成本
由于每次用户交互会生成大量的 Span，捕获 AI 智能体的详细追踪可能会变得非常昂贵。本文提出了一种基于尾部采样的解决方案，该方案在追踪完成后进行分析，以识别并仅保留最有价值的追踪，例如涉及错误或复杂工具使用的追踪。作者解释了为什么传统的头部采样对于智能体来说是不够的，并提供了实现有效尾部采样以管理成本的数学推理和 OpenTelemetry 配置示例。