PulseAugur
中
实时 08:31:52
实体 nvlabs.github.io

nvlabs.github.io

PulseAugur coverage of nvlabs.github.io — every cluster mentioning nvlabs.github.io across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_35817 ·

    Sana 系统通过动态资源分配优化 LLM 性能

    研究人员推出了一种名为 Sana 的新系统，旨在通过动态分配计算资源来提高大型语言模型 (LLM) 的效率。Sana 通过根据请求的复杂性将查询路由到快速、低延迟层或更强大的推理层来实现这一点。这种方法旨在平衡性能和成本，为简单任务提供更快的响应，同时为复杂问题保留密集计算。