实体
Safe RL
Safe RL
PulseAugur coverage of Safe RL — every cluster mentioning Safe RL across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
新方法增强了分层强化学习任务的安全性
研究人员开发了一种新颖的方法来增强分层强化学习的安全性，特别是在复杂、长时限的任务中。该方法利用学习到的世界模型，结合用于生成子目标的高层策略和采用想象性回滚来防止不安全行为的低层策略。与具有挑战性的导航和操作任务上现有的安全强化学习基线相比，该技术显著提高了成功率并确保了一致的约束满足。
-
新基准测试AI在道德困境中的层级道德对齐能力
研究人员开发了MoralityGym，一个旨在评估AI代理在复杂道德困境中导航和遵守层级道德规范能力的新基准。该基准使用一种称为Morality Chains的新形式主义来表示道德约束，并在Gymnasium环境中呈现了98个电车难题风格的问题。使用安全强化学习（Safe RL）方法的初步测试突显了AI在道德推理方面的现有局限性，表明需要更先进的方法来确保AI系统在现实场景中以合乎道德且透明的方式运行。