实体
Service-Level Objectives (SLOs)
Service-Level Objectives (SLOs)
PulseAugur coverage of Service-Level Objectives (SLOs) — every cluster mentioning Service-Level Objectives (SLOs) across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
Intent Engine 将自然语言翻译为 SLO，减少错误
一种名为 Intent Engine 的新架构已被开发出来，用于将自然语言意图翻译为计算连续体服务放置的已验证服务级别目标 (SLO)。该系统旨在克服传统指标级别约束相关的采用障碍和错误配置风险。通过结合模式约束提取、检索增强值构建和验证，Intent Engine 可显著减少错误和下游放置失败。
-
新的LLM路由框架使用在线线性规划优化性能 · 跟踪2个来源
已开发出一种新的在线线性规划框架，用于优化大型语言模型（LLM）服务的路由。该方法采用多目标优化策略来平衡延迟、吞吐量和其他服务级别目标（SLO），其性能优于基于启发式的方法。该系统专为毫秒级决策而设计，并在集成到模拟器后在各种性能指标上显示出显著的改进。