Tool chaining

AI 代理安全框架需要授权，而不仅仅是隔离

Anthropic 最近发布的指南《AI 代理的零信任》提供了一个保护自主 AI 系统的框架，侧重于隔离和身份验证。然而，《福布斯》的文章认为该框架不完整，缺少一个关键要素：行动点的授权。虽然隔离和身份验证很重要，但它们并不能阻止代理滥用其授予的权限或以有害方式组合工具。作者强调，基于每次行动的授权，而不是基于会话的控制，应该是任何能够产生重大后果的代理的基础安全措施。