Internal Pluralism

AI对齐研究强调成对比较的局限性

一篇新研究论文探讨了使用局部成对比较来理解人类在决策规则方面的偏好，尤其是在AI对齐领域，其存在的局限性。该研究引入了一个“内部多元性”的正式模型，其中个体持有多个、有时相互冲突的优先事项。该模型揭示了诸如比例性和平均主义等全局优先事项无法仅通过局部比较来准确捕捉。此外，强制决策可能由于内部冲突导致行为扭曲，这表明允许用户表达犹豫不决可以提高偏好学习的准确性。