一篇新研究论文探讨了使用局部成对比较来理解人类在决策规则方面的偏好，尤其是在AI对齐领域，其存在的局限性。该研究引入了一个“内部多元性”的正式模型，其中个体持有多个、有时相互冲突的优先事项。该模型揭示了诸如比例性和平均主义等全局优先事项无法仅通过局部比较来准确捕捉。此外，强制决策可能由于内部冲突导致行为扭曲，这表明允许用户表达犹豫不决可以提高偏好学习的准确性。 AI
影响 这项研究提出了AI对齐领域偏好学习的新方法，可能带来更准确、更易于解释的模型。
排序理由 该集群包含一篇在arXiv上发表的研究论文，详细介绍了一个新的正式模型和偏好学习分析。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
