实体
Skyrlos
Skyrlos
PulseAugur coverage of Skyrlos — every cluster mentioning Skyrlos across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
Together 的 ThunderAgent 优化 AI 推理，提高吞吐量并降低延迟 · 跟踪 9 个来源
Together 开发了 ThunderAgent，这是一个开源推理优化工具，旨在解决代理工作流中的 KV 缓存颠簸问题。当代理任务在 GPU 密集型推理和等待外部工具之间交替时，会出现此问题，导致内存使用效率低下和性能下降。ThunderAgent 通过将代理工作流视为可调度程序来解决此问题，从而实现更智能的内存管理和路由到具有可用容量的节点。据报道，该工具提供了显著的性能改进，包括单节点吞吐量提高高达 2.5 倍，在高并发下 P5…
-
ThunderAgent 提升 AI 代理的 GPU 通量，被 ICML 2026 录用
Together 开发了 ThunderAgent，这是一种调度器级别的解决方案，旨在通过缓解 KV 缓存抖动来优化代理推理的 GPU 使用率。这项创新在单节点吞吐量方面提高了 2.5 倍，在高并发下将 P50 延迟降低了十倍。ThunderAgent 已被 ICML 2026 选为 Spotlight 论文，并已被 Skyrlos 和 NVIDIA Dynamo 等项目采用，为现有的引擎配置提供即插即用集成。