实体 QAT-LoRA

QAT-LoRA

PulseAugur coverage of QAT-LoRA — every cluster mentioning QAT-LoRA across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_239382 · Sep 7 · 04:00

Scale-QLoRA 使得在 4 位模型中无损合并 LLM 适配器成为可能

一篇新研究论文介绍了 Scale-QLoRA，一种将 LoRA 适配器合并到原生 4 位量化 LLM 中而不会损失准确性的方法。传统的合并方法可能会降低性能，但 Scale-QLoRA 保留了原始量化代码平面，实现了精确合并和更快的任务切换。这种方法保持了代码不变性，并提供了精确回滚和代码平面去重等优势。