SecureGARD

新框架 SecureGARD 增强 LLM Agent 免受提示注入攻击的安全性

研究人员开发了 SecureGARD，一个旨在增强使用工具的大型语言模型 (LLM) Agent 安全性的新框架。该系统通过将工具调用固定在共享的语义表示中，并结合可执行本体和任务状态来做出关于工具使用的决策，从而动态地指导治理。SecureGARD 旨在通过识别未满足的义务并允许在不扩展授权边界的情况下进行重新规划来防止提示注入攻击，同时还允许安全地更新本体。