实体
TBPO
TBPO
PulseAugur coverage of TBPO — every cluster mentioning TBPO across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 2
层级分布 · 90 天
主题
时间线
- 2026-05-12 research_milestone Researchers published a paper introducing Token-level Bregman Preference Optimization (TBPO) for language model alignment. 来源
最近 · 第 1/1 页 · 共 2 条
-
新方法通过令牌级偏好优化增强大语言模型对齐
两篇新研究论文介绍了改进大语言模型对齐的新颖方法，特别解决了现有直接偏好优化（DPO）技术的局限性。第一篇论文TAB-PO提出了一种令牌级自适应屏障，用于将梯度更新集中在结构化生成任务中的关键模式令牌上，在Llama和Qwen模型上于SciERC数据集上显示出显著改进。第二篇论文TokenRatio提出了令牌级Bregman偏好优化（TBPO），这是一种将DPO推广到令牌级决策的原则性方法，在各种基准测试中提高了对齐质量、训练稳定性和输出多样性。
-
新的TBPO方法在令牌级别优化语言模型
研究人员推出了一种新的方法，称为令牌级布雷格曼偏好优化（TBPO），用于使用成对偏好来对齐语言模型。与目前关注完整序列的现有方法不同，TBPO在令牌级别运行，根据前面的上下文对单个下一个令牌动作的偏好进行建模。与当前方法相比，这种方法旨在提高对齐质量、训练稳定性和输出多样性。