English(EN) Provenance-Grounded Gating and Adaptive Recovery in Synthetic Post-Training Data Curation

新方法改进了LLM后训练的合成数据策展

作者 PulseAugur 编辑部 · [1 个来源] · 2026-06-09 17:24

研究人员开发了一种用于策展用于大型语言模型（LLM）后训练的合成数据的新方法。该方法侧重于确保生成的数据以其来源证据为基础，并为被拒绝的样本实施自适应恢复系统。研究发现，纳入来源验证可提高数据的忠实度，并且幻觉和基于奖励的过滤都是必需的，因为它们针对不同类型的错误。与简单的重采样相比，自适应恢复管道显著提高了有用数据的产量和召回率，尽管下游微调质量主要受生成器规模的影响。 AI

影响通过提高合成数据质量和恢复率来增强LLM训练效率。

排序理由该集群包含一篇研究论文，详细介绍了LLM后训练中合成数据策展的新方法。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.CL 阅读 →

arXiv
LLM

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

报道来源 [1]

arXiv cs.CL TIER_1 English(EN) · Pratinav Seth · 2026-06-09 17:24

Provenance-Grounded Gating and Adaptive Recovery in Synthetic Post-Training Data Curation

Synthetic post-training pipelines commonly filter generated samples with reward models or holistic LLM judges, yet two practices remain rarely examined together: whether the filtering signal is grounded in the source evidence that induced each generation, and whether rejected sam…

报道来源 [1]

Provenance-Grounded Gating and Adaptive Recovery in Synthetic Post-Training Data Curation

相关实体

相关话题