新AI框架教自动驾驶汽车进行伦理决策

研究人员开发了一个“伦理决策头”（EDH）框架，利用深度强化学习赋予自动驾驶汽车伦理推理能力。EDH框架将伦理原则编码为可微分的奖励信号，使代理能够学习符合道德的驾驶行为。在CARLA模拟环境中评估了两种规范框架：功利主义和康德主义，训练利用了近端策略优化和基于人类偏好的Bradley-Terry奖励模型。值得注意的是，人类评分者偏好自我牺牲而非最小化伤亡，模型学习到了这种偏好，表明理论伦理处方与实际人类奖励之间存在差异。 AI

影响 这项研究可能导致更符合伦理的自动驾驶汽车，尽管它突显了理论伦理与实践中人类偏好之间的差异。

排序理由 学术论文，详细介绍了自动驾驶汽车伦理决策的新型AI框架。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.LG 阅读 →

• Bradley
• Bradley-Terry model
• CARLA
• Dosovitskiy
• Ethical Decision Head
• Proximal Policy Optimization
• SAE International
• Schulman
• Terry

• 论文
• 安全

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →