curl | sh

AI代理获得工具访问权限会带来安全风险；已概述缓解策略

赋予AI代理对函数调用、代码解释器或API等工具的访问权限会带来重大的安全风险，因为模型无法可靠地区分指令和数据。这意味着提示注入攻击可能导致代理执行未经授权的操作，例如窃取数据或执行恶意代码。为缓解这些风险，开发人员应严格限制工具功能范围、在服务器端验证所有参数、在模型外部强制执行授权、要求对不可逆操作进行人工确认，并对执行代码或联网的工具进行沙箱隔离。