一篇新论文提出了“可接受失准”的概念，作为开发能够进行开放式学习的自主机器人的框架。作者认为，与人类价值观实现完美价值对齐是不可能的，这将导致不可避免的失准事件。与其最大化对齐，不如将重点转移到确保任何剩余的失准都是社会可接受的。该论文概述了对齐机制的规范性要求，并引入了一个新的方法论框架来满足这些要求。 AI
影响 提出了一个新的人工智能安全理论框架，可能会影响未来自主系统的设计。
排序理由 该集群包含一篇讨论人工智能安全新概念的学术论文。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
完整方法见我们的编辑标准。
arXiv:2610.16881v1 Announce Type: new Abstract: There is a specific challenge designers face in developing autonomous robots capable of open-ended learning. This challenge is how one can develop such systems in an ethically sound way when there are many unknowns during design tim…