CausalNav

CausalNav 控制器通过认证的弃权确保 AI 安全

研究人员开发了 CausalNav，这是一种专为物理 AI 系统设计的新型控制器，兼顾了效用和安全。CausalNav 利用有符号、动作条件化的转移图来模拟世界，并在建议代理之前进行多项可靠性检查。如果这些检查（包括预测可靠性证书和策略裕度门）未通过，系统将默认使用基础控制器，确保在模型不确定时也能安全运行。在物理参数变化下的控制任务上的评估表明，CausalNav 的性能优越，并强调了认证的弃权比单纯的预测准确性对于安全部署更重要。