实体
Tien-Phat Nguyen
Tien-Phat Nguyen
PulseAugur coverage of Tien-Phat Nguyen — every cluster mentioning Tien-Phat Nguyen across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
新的SORT方法通过指导学习信号来增强AI推理能力
研究人员开发了一种名为SORT（选择性离策略参考调优）的新方法，以改进AI推理任务的强化学习。该技术通过从参考解决方案中推导出计划来解决标准方法在复杂提示上失败的问题。SORT然后比较有计划和无计划下的标记概率，为在计划指导下更可预测的标记分配更高的权重。这种方法将困难的提示转化为结构化的学习信号，在各种推理基准上，尤其是在能力较弱的模型上，比现有方法有了显著的改进。
-
新方法通过令牌级偏好优化增强大语言模型对齐
两篇新研究论文介绍了改进大语言模型对齐的新颖方法，特别解决了现有直接偏好优化（DPO）技术的局限性。第一篇论文TAB-PO提出了一种令牌级自适应屏障，用于将梯度更新集中在结构化生成任务中的关键模式令牌上，在Llama和Qwen模型上于SciERC数据集上显示出显著改进。第二篇论文TokenRatio提出了令牌级Bregman偏好优化（TBPO），这是一种将DPO推广到令牌级决策的原则性方法，在各种基准测试中提高了对齐质量、训练稳定性和输出多样性。