实体 Reward Modelling

Reward Modelling

PulseAugur coverage of Reward Modelling — every cluster mentioning Reward Modelling across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_355899 · Nov 13 · 07:26

使用 RLHF 对 135M 参数模型进行摘要微调

本文详细介绍了使用人类反馈强化学习 (RLHF) 微调一个 135M 参数模型以进行摘要的过程。文章涵盖了监督微调 (SFT)、奖励建模以及两种关键的 RLHF 算法：近端策略优化 (PPO) 和直接偏好优化 (DPO) 的实现。作者解释了如何在单个免费 GPU 上重新创建此流程，所有算法均以纯 Python 编写。