EMBGuard

新的EMBGuard系统通过识别物理危险来增强AI代理的安全性

研究人员开发了EMBGuard，这是一个用于具身AI代理的新安全系统，可以识别和推理现实环境中的物理危险。与以前的方法不同，EMBGuard将风险评估与代理的核心策略明确分离，从而能够更精确地识别危险行为。该系统以及新的数据集和基准测试，在性能上可与GPT-5.1和Gemini-2.5-Pro等专有模型相媲美，同时显著减少了阻碍部署的误报。