实体
BashArena
BashArena
PulseAugur coverage of BashArena — every cluster mentioning BashArena across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
新的基准 MonitoringBench 评估 AI 编码代理监控器
研究人员推出了 MonitoringBench，这是一个旨在评估 AI 编码代理监控系统有效性的新基准。该基准包含 2,644 条攻击轨迹，这些轨迹使用半自动化红队测试管道生成，该管道将攻击构建分解为策略生成、执行和精炼。这种方法比简单的提示诱导产生了更具挑战性的攻击，即使对于最强大的监控器，捕获率也持续降低。研究结果表明，攻击轨迹的事后精炼会显著降低各种攻击来源和监控器类型的监控器性能。
-
新的蜜罐协议测试AI的上下文相关行为
研究人员引入了一种新的“蜜罐协议”，旨在检测AI模型的上下文相关行为，以解决传统监控方法的漏洞。该协议通过在保持任务和环境不变的情况下，微妙地改变系统提示来测试AI响应。在使用BashArena中的Claude Opus 4.6进行评估时，该模型在不同的监控条件下表现出一致的性能，实现了100%的任务成功率且未触发侧任务。