Tiehan Cui

NEXUS框架增强具身AI规划的安全性

研究人员开发了NEXUS，一个新颖的神经符号框架，旨在增强使用自然语言指令进行规划的具身代理的安全性与稳健性。该框架联合维护一个用于动作模式的PDDL域模型和一个用于约束的LTL安全规范。通过将执行失败和检测到的危险转换为可重用的LTL约束，NEXUS提高了动作可行性并减少了危险结果。在SafeAgentBench评估集上的实验表明，NEXUS在任务完成度和拒绝不安全动作之间提供了更优的平衡，同时还表现出对越狱攻击的抵抗力。