实体 RW-DPO

RW-DPO

PulseAugur coverage of RW-DPO — every cluster mentioning RW-DPO across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_336042 · Nov 2 · 05:00

新的RW-DPO方法通过对有噪声的偏好数据进行处理，改进了语言模型的训练

研究人员开发了可靠性加权直接偏好优化（RW-DPO）方法，这是一种通过考虑有噪声或不正确的偏好数据来提高语言模型训练鲁棒性的新方法。与标准的DPO不同，RW-DPO为每次比较分配一个可靠性权重，并使用最小最大凹函数惩罚与策略一起估计这些权重。这种方法有效地为模型同意的比较分配权重一，并将调整集中在矛盾的数据上，为处理不完美的偏好数据集提供了一种更精确有效的方式。