Human-Autonomy Teams

AI团队使用二阶心智理论以实现更好的对齐

研究人员提出了一个新的人机协作团队框架，该框架利用二阶心智理论（ToM-2）来改善对齐和学习。这种方法允许拥有目标知识的人类教师为AI学习者设计更有效的课程。AI学习者反过来维护一个关于教师对其自身知识理解的模型，使其能够提供结构化的偏好约束，以保持教师的模型同步。模拟表明，这种知情教师方法优于学习者主导的方法，并且在教师错误具有方向性时，ToM-2声明在修复模型漂移方面特别有效。