实体
Decomposition Attacks
Decomposition Attacks
PulseAugur coverage of Decomposition Attacks — every cluster mentioning Decomposition Attacks across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
新的基准评估 LLM 代理对分解和注入攻击的滥用监控能力
研究人员开发了一个新的基准来评估 LLM 代理的滥用监控能力，特别关注分解和提示注入攻击。该基准包含约 6,200 份对话记录，引入了一种用于跟踪级别监控的统一形式。它评估监控器在多大程度上能够识别代理响应变得有害的确切点，而不仅仅是将整个轨迹分类为有害。面向动作的监控器在两种攻击类型上都表现出色，而面向内容的监控器在提示注入攻击方面则遇到困难。
-
新基准测试 LLM 代理对抗分解攻击的安全性
研究人员推出 DeCompBench，这是一个旨在评估基于 LLM 的代理在对抗分解攻击方面的安全性的新基准。这些攻击涉及将有害任务分解为更小的、看似良性的子任务，从而绕过安全机制。使用 DeCompBench 进行的实验表明，尽管当前最先进的代理在拒绝单一有害任务方面表现有效，但在其分解变体上的拒绝率却显著降低，常常会无意中完成恶意目标。研究结果凸显了改进安全评估和防御此类复杂对抗策略的迫切需求。