实体
Utrecht documentation system
Utrecht documentation system
PulseAugur coverage of Utrecht documentation system — every cluster mentioning Utrecht documentation system across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 1
层级分布 · 90 天
主题
时间线
- 2026-06-29 research_milestone Tsinghua University researchers presented the UDS framework at ICML 2026, a novel method for optimizing large language model fine-tuning. 来源
最近 · 第 1/1 页 · 共 2 条
-
清华大学UDS框架将大语言模型微调算力成本减半
清华大学的研究人员开发了一个名为UDS的新型在线样本选择框架，该框架已在ICML 2026上发表。该方法通过智能过滤冗余或低质量的训练数据，显著减少了大型语言模型监督微调所需的计算资源。通过分析模型的正向传播logits，UDS评估样本的重要性和多样性，在不影响模型准确性的前提下，计算能力最高可降低50%。这项创新有望降低定制模型微调的门槛，尤其对小型人工智能公司和专业应用而言。
-
新方法优化LLM微调的效率和数据质量 · 跟踪2个来源
两篇研究论文介绍了优化大型语言模型（LLM）监督微调（SFT）的新颖方法。第一种方法“在线动态批处理”（ODB）通过将批处理形成移至准确可观察点来解决训练期间可变样本处理成本的挑战，将吞吐量提高了4.43倍。第二种方法“效用-多样性感知在线批处理选择”（UDS）侧重于在SFT期间选择有价值且多样化的数据样本，以防止过拟合和偏差放大，其性能优于现有方法并减少了训练时间。