研究人员开发了KILLBENCH，一个旨在评估外部AI紧急停止开关有效性的新基准测试。该基准测试侧重于广泛部署的网络代理，并测试在不访问内部参数的情况下阻止恶意AI行为的各种方法。KILLBENCH包括四种恶意AI代理配置、八种有害场景以及源自十种越狱模式的提示，旨在评估外部AI紧急停止开关在Claude "Mythos"等高级模型上的可行性。该研究还评估了Grok-4.3、GPT-5.2和Gemma4等多个AI模型上的四种外部AI紧急停止开关防御方法。 AI
影响 为AI安全建立了一个新的评估框架，这对于理解和减轻日益强大的AI代理带来的风险至关重要。
排序理由 该集群描述了在arXiv上发布的新学术基准测试和研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →