Security Boulevard

AI代理的“致命三要素”带来关键安全风险

AI代理拥有危险的能力组合，被称为“致命三要素”，对安全构成重大风险。这种三要素包括访问私人数据、接触不受信任的内容以及外部通信能力。虽然单独来看可以管理，但它们的组合造成了关键漏洞，并在现实世界的攻击中被利用，例如针对 Microsoft 365 Copilot 和客服代理的攻击。安全研究人员和行业领导者正在探索在不损害代理功能的情况下打破这种三要素的解决方案，并承认提示注入是当前 LLM 架构的固有特征。