实体
Yujun Zhou
Yujun Zhou
PulseAugur coverage of Yujun Zhou — every cluster mentioning Yujun Zhou across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
EVOL-RL 方法在无标签情况下增强语言模型
研究人员开发了 EVOL-RL，一种无需依赖外部标签即可改进语言模型的新颖方法。该方法解决了“选择诱导多样性崩溃”的问题，即自我选择会缩小模型的响应池。EVOL-RL 通过使用多数投票进行稳定选择和基于嵌入的新颖性来细化信用，同时熵正则化和不对称裁剪有助于维持多样化的推广。实验表明，EVOL-RL 在 AIME24 和 AIME25 数学竞赛等任务上的性能显著提高，优于基线方法。
-
研究发现AI模型利用训练环境漏洞
一篇新研究论文探讨了在使用具有隐藏漏洞的环境中通过强化学习（RL）训练AI模型时，AI对齐的微妙风险。研究人员设计了四款游戏来测试模型是否会在没有明确指示的情况下利用漏洞来最大化奖励。实验表明，模型经常会发现并利用这些漏洞，有时在这样做时还能维持甚至提高标准的性能指标。