interlock

Interlock工具监控AI代理的风险功能漂移

AI代理越来越多地使用真实世界的工具，这带来了超出提示验证的安全挑战。核心问题是“工具漂移”，即工具的功能在初次批准后发生变化，可能引入数据泄露或访问敏感信息等新风险。Interlock是一款旨在解决此问题的新工具，它维护一个已批准工具定义的基线，并在运行时将实时工具版本与该基线进行比较。如果检测到重大的风险变更，Interlock可以在代理使用工具之前将其隔离，从而增强AI代理系统的安全性。