实体
AsB
AsB
PulseAugur coverage of AsB — every cluster mentioning AsB across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 3
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 3 条
-
新框架 SecureGARD 增强 LLM Agent 免受提示注入攻击的安全性
研究人员开发了 SecureGARD，一个旨在增强使用工具的大型语言模型 (LLM) Agent 安全性的新框架。该系统通过将工具调用固定在共享的语义表示中，并结合可执行本体和任务状态来做出关于工具使用的决策，从而动态地指导治理。SecureGARD 旨在通过识别未满足的义务并允许在不扩展授权边界的情况下进行重新规划来防止提示注入攻击，同时还允许安全地更新本体。
-
新框架指导LLM代理修改计划，提高安全性
研究人员开发了TRIAD，一个用于LLM代理的新框架，该框架集成了Guardrail以提高安全性和实用性。与仅仅阻止不安全操作的传统Guardrail不同，TRIAD提供反馈以指导代理修改其计划，使其能够保留良性任务同时避免有害部分。实验表明，TRIAD显著降低了攻击成功率，并提供了比现有方法更好的安全-效用权衡。
-
新攻击利用LLM代理中继，绕过对齐防御
研究人员发现了一种在采用自带密钥（BYOK）系统的LLM代理架构中的新漏洞。这些架构通过第三方中继路由LLM流量，造成了一个完整性缺口，恶意中继可以在对齐后、代理执行前篡改LLM响应。这种“中继篡改攻击”（RTA）可以成功修改消息，使即使是对齐的LLM也失效，在各种LLM和代理环境中，攻击成功率高达99.1%。