实体 Data-DPO

Data-DPO

PulseAugur coverage of Data-DPO — every cluster mentioning Data-DPO across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_208544 · Aug 19 · 04:00

新的Data-DPO方法优化LLM后训练数据选择

研究人员推出了一种名为Data-DPO的新方法，用于在LLM后训练过程中选择有效的数据样本。该方法通过探测本地训练反馈，专注于候选数据与目标模型能力之间的兼容性。Data-DPO将激活差异转化为成对偏好，训练一个轻量级奖励模型，并将这些偏好与外部质量分数和多样性指标相结合，以构建最终子集。在Vision-Flan和LLaVA-CoT上的实验表明，在各种预算下，Data-DPO的性能始终优于现有的数据选择基线，甚至超过了全数据训练的性能。