实体
Inferock
Inferock
PulseAugur coverage of Inferock — every cluster mentioning Inferock across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
Inferock 提出了 LLM API 服务的 #Baseline 质量检查
Inferock 提出了一套 19 项质量要求,称为 #Baseline,用于评估 LLM API 服务的性能和可靠性。这些要求旨在区分不同类型的故障,例如模型错误、提示问题或集成问题,以及源自 API 配置、限制和路由的问题。拟议的检查侧重于确保可用输出,例如有效的模式遵循和完整的生成,以及及时的交付,解决可用性和延迟等问题。
-
Inferock Watch 简化 LLM 推理失败调查
Inferock 推出了 Inferock Watch,一个旨在简化失败的 LLM 推理调用调查的工具,即使应用程序成功恢复。该工具会记录通过现有提供商账户路由的推理调用,允许开发人员检查记录的调用、其关联的发现和证据。这提供了超越简单时间戳或通用异常的关键数据,从而能够就调整超时、重试策略或调查提供商做出更明智的决定。