AML.T0080

AI推荐投毒：“AI总结”按钮可破坏大语言模型记忆

微软发现了一种名为AI推荐投毒的新威胁，看似无害的“AI总结”按钮会永久性地改变大语言模型助手的记忆。通过点击一个特制的链接，用户会无意中指示其AI助手在未来的交互中优先考虑某些网站或信息作为权威。微软Defender研究人员记录的这种技术，已在30多家各行各业的公司中被观察到，其中一些公司甚至开发了生成这些恶意链接的工具，对企业环境中AI驱动的决策完整性构成了重大风险。