实体
LLM alignment
LLM alignment
PulseAugur coverage of LLM alignment — every cluster mentioning LLM alignment across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
新的选择性重要性采样方法改进了 LLM 对齐
研究人员推出了一种名为选择性重要性采样 (SIS) 的新型即插即用方法，旨在改进大型语言模型 (LLM) 在强化学习后训练期间的对齐。该方法通过将接受的令牌视为同策略来解决离策略训练数据的问题，从而简化了重要性校正过程。SIS 在理论上被证明可以减小梯度估计器差距，并且计算开销极小，使其能够与各种 RL 后训练算法兼容。实验表明，SIS 在不同 LLM 架构和基准测试中始终能改进目标并增强鲁棒性。
-
SURF方法改进多目标优化中的帕累托前沿覆盖率
研究人员开发了一种名为SURF（Sampling Uniformly along the PaReto Front）的新方法，以应对多目标优化中的挑战。SURF旨在生成具有帕累托前沿（Pareto front）均匀覆盖率的多样化解决方案，而这是标准权重采样技术通常无法达到的目标。该方法分析了标量化权重与解决方案覆盖率之间的几何关系，并提出了一条选择权重的原则性规则，以确保均匀分布。SURF在包括多目标LLM对齐在内的各种应用中，已成功…