OpenLLMetry
PulseAugur coverage of OpenLLMetry — every cluster mentioning OpenLLMetry across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
LLM Mesh通过单一API密钥简化了对多个AI模型的访问
LLM Mesh是一种旨在通过单一API密钥管理多个大型语言模型（LLM）的系统，从而简化开发人员的访问和集成。这种方法旨在简化来自OpenAI、Anthropic和Google等提供商以及Azure OpenAI和Amazon Bedrock等平台的各种LLM的使用。LangChain和LlamaIndex等框架，以及OpenLLMetry、Langfuse、Arize AI和Weights & Biases等可观测性工具，是构建和…
-
OpenTelemetry 标准化 LLM 追踪，用于调试复杂的 AI 应用
分布式追踪对于调试和优化 LLM 驱动的应用程序至关重要，这些应用程序经常会静默失败，返回错误但看似自信的答案。通过记录请求在各个组件中的旅程，追踪将不透明的系统转化为透明的系统，揭示提示形成、检索或模型幻觉方面的问题。OpenTelemetry (OTel) 是一个云原生计算基金会项目，已成为此领域的行业标准，提供统一的 API 和库来检测代码并将遥测数据发送到兼容的后端，而 OpenLLMetry 等扩展为生成式 AI 添加了特定约定。
-
GitHub列表汇编了管理LLM推理成本的工具
一个GitHub仓库已被创建，用于汇编管理和降低与大型语言模型（LLM）相关的成本的资源。该列表名为“awesome-llm-cost”，包括成本计算、令牌计数、可观测性、缓存、模型路由、提示压缩和自托管等工具。创建者在收到Anthropic的一笔巨额意外账单后，旨在整合有用的工具和技术，帮助他人避免类似的成本超支。