实体 Fair Cast

Fair Cast

PulseAugur coverage of Fair Cast — every cluster mentioning Fair Cast across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

RESEARCH · CL_336295 · Nov 2 · 05:00

新研究揭示 bfloat16 舍入会丢弃大部分 RL 策略更新

一项新的研究论文指出了强化学习（RL）模型训练中一个显著的问题，即使用 bfloat16 舍入会默默地丢弃大部分策略更新。这种训练和推理之间的不匹配，尤其是在常用学习率下，意味着很大一部分权重变化会丢失。研究人员提出了一种名为 Fair Cast 的修复方法，该方法在模型导出时使用无偏舍入方法，如随机舍入或误差反馈。据报道，这一行代码的更改在各种 Qwen3 模型和任务中都能提高性能，且计算开销极小。