实体 H800-80GB

H800-80GB

PulseAugur coverage of H800-80GB — every cluster mentioning H800-80GB across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_42500 · May 20 · 13:44

ChunkFT框架大幅降低LLM微调的内存需求

研究人员开发了ChunkFT，一个新颖的框架，旨在显著减少大型语言模型全参数微调所需的内存。该方法动态激活一组工作参数，无需改变模型架构即可在子张量上进行梯度计算。实验表明，ChunkFT可以在单个消费级GPU上微调Llama 3-8B等模型，在显著减少内存占用的同时，实现与传统全参数微调相当的性能。