Gloria Felicia

新基准StepShield评估AI代理干预时机

一篇新研究论文介绍了一个名为StepShield的新基准，旨在评估AI代理安全干预的及时性，而不仅仅是其检测率。研究强调了传统基于规则的护栏与语义检测器之间存在显著差距，基于规则的系统通常触发警报过晚，无法有效。StepShield的早期干预率（EIR）指标显示，许多现有的安全措施与随机时机无法区分，凸显了实时失控AI代理检测这一未解决的挑战。