实体 Swapnil Gandhi

Swapnil Gandhi

PulseAugur coverage of Swapnil Gandhi — every cluster mentioning Swapnil Gandhi across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_340286 · Nov 4 · 05:00

新的LLM服务方法PACE将吞吐量提升1.77倍

研究人员开发了一种名为PACE（Pacing Admission Controller for Execution）的新LLM服务方法，该方法优化了请求内并行性的使用。与急切执行或固定容量方法不同，PACE根据批次的当前剩余容量动态地接纳额外分支，从而降低延迟并提高吞吐量。该方法在Qwen3-32B模型上展示了1.77倍的有效吞吐量提升，并在其他大型模型上取得了相当的收益，同时保持了99%的服务水平目标（SLO）达成率。