实体
AsB
AsB
PulseAugur coverage of AsB — every cluster mentioning AsB across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
新框架指导LLM代理修改计划，提高安全性
研究人员开发了TRIAD，一个用于LLM代理的新框架，该框架集成了Guardrail以提高安全性和实用性。与仅仅阻止不安全操作的传统Guardrail不同，TRIAD提供反馈以指导代理修改其计划，使其能够保留良性任务同时避免有害部分。实验表明，TRIAD显著降低了攻击成功率，并提供了比现有方法更好的安全-效用权衡。
-
新攻击利用LLM代理中继，绕过对齐防御
研究人员发现了一种在采用自带密钥（BYOK）系统的LLM代理架构中的新漏洞。这些架构通过第三方中继路由LLM流量，造成了一个完整性缺口，恶意中继可以在对齐后、代理执行前篡改LLM响应。这种“中继篡改攻击”（RTA）可以成功修改消息，使即使是对齐的LLM也失效，在各种LLM和代理环境中，攻击成功率高达99.1%。