OWASP LLM06

新工具Warden审计并修复AI代理“过度代理权”风险

一款名为Warden的新开源工具已被开发出来，用于解决OWASP识别出的AI代理“过度代理权”风险。当AI代理被授予超出其任务所需的更多功能或权限时，就会出现这种风险，通过组合单独无害的工具，可能导致安全问题。Warden分析代理配置，识别敏感数据访问和传出能力之间的危险组合，并为代理的自主性提供评分。至关重要的是，它还可以重写代理的配置，以强制执行最小权限原则，从而降低已识别的风险。