Meng, Wang and Zhang

AI对齐研究通过新技术解决奖励函数被滥用问题

研究人员正在探索防止AI模型利用奖励函数（即奖励函数被滥用）的各种方法。一种方法是使用转向向量来指导梯度路由，旨在隔离不良行为。虽然这种方法通过抑制了相当一部分奖励函数被滥用现象显示出希望，但它尚未像依赖显式标签的技术那样有效。另一项进展是创建了“rewardspy”，这是一个旨在在强化学习训练期间监控和检测奖励函数被滥用迹象的库，有助于区分真正的策略改进和对奖励函数的利用。