huggigface.co

AgentGuard 可防止 LLM 代理访问未经授权的 URL

开发者 Mukunda Katta 创建了 AgentGuard，这是一个旨在防止 LLM 代理访问未经授权 URL 的工具。该系统通过实施域名允许列表来工作，阻止任何发送到未明确允许域的请求。这种方法旨在缓解提示注入攻击，在这种攻击中，恶意内容可能会诱骗代理访问有害网站。AgentGuard 可用于 Python、Node.js 和 Rust，为 LLM 驱动的工具提供了一个简单而有效的安全层。