实体 Budgeted LoRA

Budgeted LoRA

PulseAugur coverage of Budgeted LoRA — every cluster mentioning Budgeted LoRA across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

最近 · 第 1/1 页 · 共 1 条

RESEARCH · CL_20414 · May 5 · 22:59

Budgeted LoRA 框架通过结构化计算分配优化 LLM 推理效率

研究人员推出了一种新颖的蒸馏框架 Budgeted LoRA，旨在创建更高效的用于推理的大型语言模型。该方法将模型压缩视为一个结构化计算分配问题，允许根据全局计算预算在密集和低秩路径之间重新分配容量。该方法能够控制推理速度提升，实证结果表明在激进预算下可实现显著的速度提升，同时在某些任务上保持具有竞争力的准确性。