Octocat

新工具Capbroker可防止AI代理滥用API密钥

一款名为Capbroker的新工具已被开发出来，通过防止AI代理滥用API密钥来增强其安全性。Capbroker不提供直接访问权限，而是为AI代理提供具有作用域、已签名且会过期的能力凭证。这种方法在本地LLMs（包括Ollama）上进行了测试，其中一个代理通过提示注入攻击被诱骗尝试删除一个仓库。Capbroker成功阻止了这一行为，因为该代理的能力不包括删除仓库，证明了其在强制执行访问控制方面的有效性。