PulseAugur
实时 12:36:54
实体 HelpSteer

HelpSteer

PulseAugur coverage of HelpSteer — every cluster mentioning HelpSteer across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_100122 ·

    新方法通过建模奖励不确定性来增强LLM对齐

    研究人员开发了一种名为不确定性感知奖励建模(UARM)的新方法,以提高大型语言模型中来自人类反馈的强化学习(RLHF)的稳定性。传统的RLHF方法存在困难,因为它们的奖励模型提供确定性预测,未能表明何时其估计是不可靠的。这可能导致策略放大错误的奖励信号,造成“奖励破解”。UARM通过分位数共轭预测和基于方差分解的策略优化优势重加权来整合校准的不确定性,从而解决这个问题。在HelpSteer和UltraFeedback等基准数据集上的实…