Usenix Security 2025
PulseAugur coverage of Usenix Security 2025 — every cluster mentioning Usenix Security 2025 across labs, papers, and developer communities, ranked by signal.
-
RAG 中毒成为针对大语言模型知识库的供应链攻击
研究人员发现了一种名为 RAG 中毒的新型攻击，它在索引阶段而非查询时（如提示注入）攻击检索增强生成（RAG）系统的知识库。此方法允许攻击者将恶意内容嵌入到系统的数据库中，例如 Microsoft 365 Copilot，从而导致广泛的错误信息或操纵。研究表明，即使少量被投毒的文档也会对大型知识库产生重大影响，而现有的防御措施不足以阻止这些攻击。
-
恶意软件通过软件更新和AI代码生成传播
文章讨论了通过软件更新自动化工具传播恶意软件的威胁日益增加，特别是在npm注册表中。虽然恶意软件包并非新鲜事物，但一个利用包注册表作为传输层的蠕虫代表着重大升级。文章作者是GitHub的Dependabot团队负责人，他强调，像Dependabot这样的自动化工具虽然旨在提高安全性，但如果审查不当，可能会无意中传播恶意软件。文章还触及了与AI生成代码相关的安全风险，指出许多模型会生成有缺陷的代码，甚至会建议不存在的软件包，然后攻击者会…
-
AI幻觉缓解研究与新的“HalluSquatting”安全威胁发生冲突
研究人员正在开发新的方法来对抗AI幻觉，这是一个语言模型生成事实错误信息的重要问题。一种方法G-Frame，采用受博弈论和贝叶斯原理启发的多元代理框架来训练一个名为OmniChem的专业模型，该模型显示幻觉显著减少。另一种策略HalMit，采用黑盒监视器框架来检测幻觉，而无需访问模型内部。与此同时，一种名为“HalluSquatting”的关键安全漏洞已经出现，攻击者利用AI对不存在的软件包的幻觉，诱骗AI代理下载并运行恶意代码，对各…