研究人员开发了无损压缩张量(LCT),一个新颖的GPU执行框架,旨在减少AI模型训练期间的内存使用。LCT利用霍夫曼编码压缩张量,实现了高达1.455倍的压缩率。该方法已在NanoGPT等模型中显示出高达24.6%的内存使用量减少,并能够实现Qwen3-4B等模型微调期间更长的上下文长度。 AI
影响 降低了训练和微调的内存需求,有可能在现有硬件上实现更大的模型和上下文长度。
排序理由 详细介绍AI模型训练新技术的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →