PulseAugur
实时 06:45:35
实体 Zheng Xingyao

Zheng Xingyao

PulseAugur coverage of Zheng Xingyao — every cluster mentioning Zheng Xingyao across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_221118 ·

    新的Ladder Side Tuning方法大幅降低了LLM微调的内存需求

    研究人员推出了一种名为Ladder Side Tuning(LST)的参数高效微调方法,与QLoRA相比,它显著降低了内存使用量。LST通过引入一个轻量级的侧网络,将峰值内存需求降低了50%,同时在各种自然语言理解和数学任务中保持了具有竞争力的准确性。这种效率使得在单个12GB消费级GPU上微调7B参数模型成为可能,而无需梯度检查点。该研究还提出了LST的深度扩展变体xLadder,通过交叉连接增强了有效模型深度,从而在没有额外内存开…