human oversight

ConceptTree框架增强机器人操作决策的透明度

研究人员开发了ConceptTree，一个旨在为机器人操作中的决策过程带来语义透明度的新框架。该方法将技能选择重新构建为对人类可解释的概念进行推理，使用在视觉输入上训练的决策树来预测高级技能。ConceptTree旨在使机器人决策可追溯和可干预，允许直接检查和修改策略行为，而无需重新训练。在真实世界任务上的评估表明，ConceptTree的性能优于现有的基于概念的基线，尤其是在复杂、长周期的场景中。