LeanLTL

LeanGuard 为 AI 代理强制执行已验证的策略，减少提示注入

研究人员开发了 LeanGuard，一个新颖的运行时系统，旨在为使用工具的 AI 代理强制执行策略。该系统将工具调用与用 Lean4 编写的策略进行验证，防止代理执行被禁止的操作。LeanGuard 不仅阻止未经授权的调用，还为被拒绝的操作提供基于证明的修复，显著降低提示注入的成功率，同时不影响良性任务的性能。在 Qwen 模型上的测试表明，LeanGuard 能有效消除策略违规，并且其反馈机制可以提高任务成功率。