实体
OpenLLMetry
OpenLLMetry
PulseAugur coverage of OpenLLMetry — every cluster mentioning OpenLLMetry across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
OpenTelemetry 标准化 LLM 追踪，用于调试复杂的 AI 应用
分布式追踪对于调试和优化 LLM 驱动的应用程序至关重要，这些应用程序经常会静默失败，返回错误但看似自信的答案。通过记录请求在各个组件中的旅程，追踪将不透明的系统转化为透明的系统，揭示提示形成、检索或模型幻觉方面的问题。OpenTelemetry (OTel) 是一个云原生计算基金会项目，已成为此领域的行业标准，提供统一的 API 和库来检测代码并将遥测数据发送到兼容的后端，而 OpenLLMetry 等扩展为生成式 AI 添加了特定约定。
-
GitHub列表汇编了管理LLM推理成本的工具
一个GitHub仓库已被创建，用于汇编管理和降低与大型语言模型（LLM）相关的成本的资源。该列表名为“awesome-llm-cost”，包括成本计算、令牌计数、可观测性、缓存、模型路由、提示压缩和自托管等工具。创建者在收到Anthropic的一笔巨额意外账单后，旨在整合有用的工具和技术，帮助他人避免类似的成本超支。