Dynamic Guardian

ActionGuard系统可防止LLM代理中的恶意工具调用

一项新的研究论文介绍ActionGuard，一个旨在防止由LLM代理中的受损第三方技能发起的恶意工具调用的系统。ActionGuard通过在执行前检查工具调用，将代理的动作生成上下文与安全防护的授权上下文分离开来运行。它使用平衡的技能配置文件和运行时证据来确定动作是否由用户的请求所证明。评估表明，ActionGuard在保持高良性任务完成率的同时，显著降低了攻击成功率。