实体
Jialu Wang
Jialu Wang
PulseAugur coverage of Jialu Wang — every cluster mentioning Jialu Wang across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
新框架增强大语言模型在量化下的遗忘鲁棒性
研究人员开发了一个新框架，以确保在量化（一种常见的训练后压缩技术）之后，大语言模型的遗忘过程仍然有效。该框架分析损失景观，识别会降低遗忘性能的敏感权重，并提出了一种敏感性引导的噪声正则化方法来平滑这些区域。此外，还引入了一种遗忘关键优化策略，仅更新关键层，以保持模型的整体效用。
-
新的GRPO变体旨在改善LLM与多样化偏好的对齐
两篇新研究论文介绍了用于将大型语言模型（LLM）和视觉语言模型（VLM）与多样化用户偏好对齐的组相对策略优化（GRPO）框架的变体。第一篇论文《个性化GRPO》（P-GRPO）通过将优势估计与批次统计解耦，解决了标准GRPO压制少数派偏好的问题，从而实现了更快的收敛和与异构信号更好的对齐。第二篇论文《受限GRPO》通过使用基于拉格朗日的方法并将标准化优势标量化而非奖励，将GRPO扩展到安全关键领域，从而提高了约束依从性和稳定性。