实体 SVD LLM

SVD LLM

PulseAugur coverage of SVD LLM — every cluster mentioning SVD LLM across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

RESEARCH · CL_62923 · Jun 1 · 04:00

新研究探索LLM压缩，关注不确定性和子模块优化

研究人员正在探索压缩大型语言模型（LLM）的新方法，同时保持其性能和不确定性量化能力。一项研究介绍了SubFit，它在子模块层面压缩LLM，实现了比现有方法更好的准确率-困惑度权衡。另一篇论文ProjQ将量化噪声约束在低秩结构中，改进了适配器感知压缩。第三篇论文研究了压缩技术是否会影响LLM量化其不确定性的能力，发现更大的模型更能适应压缩，并且仅凭准确率不足以满足部署要求。最后，提出了一个基于SVD的压缩统一框架，但它强调了权重空间重…