Jeff Crume

新型“提示件攻击链”威胁利用生成式AI

一种名为“提示件攻击链”（Promptware Kill Chain）的新型安全威胁已被识别，它利用恶意提示来控制生成式AI模型和代理。与传统恶意软件不同，提示件通过精心设计的输入，在七个阶段操纵AI行为，包括初始访问、权限提升、侦察、持久化、命令与控制、横向移动，以及最终的数据窃取或代码执行。专家强调，这种威胁在架构上是大型语言模型（LLM）固有的，无法完全修补，并提倡零信任方法，将AI代理视为不可信环境，并在攻击链的每个阶段实施防御措施。