实体 Reft

Reft

PulseAugur coverage of Reft — every cluster mentioning Reft across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_33395 · May 14 · 00:19

PreFT方法通过仅预填充的微调提升LLM服务吞吐量

研究人员开发了PreFT，一种新颖的参数高效微调方法，旨在提高个性化大型语言模型服务的效率。PreFT通过仅在预填充阶段应用适配器并在解码阶段丢弃它们来优化服务吞吐量。这种方法显著提高了吞吐量，对性能的影响最小，并为个性化LLM服务提供了更有利的准确性-吞吐量权衡。