Usenix Security 2025
PulseAugur coverage of Usenix Security 2025 — every cluster mentioning Usenix Security 2025 across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
AI代理的“已完成”声明面临新的审查,需提供证据和收据系统
开发人员正在探索确保AI编码代理在其工作中更加可靠和透明的方法。一种方法是实施“已完成证明”钩子,阻止代理在未提供可验证证据(如命令输出或CI状态)的情况下声称完成。另一种策略侧重于生成“执行收据”,公开记录工具调用及其结果,从而能够独立验证保存数据的完整性。像Plumbgraph这样的工具正在开发中,用于在代理声明任务完成之前检查是否存在非现有依赖项、测试减弱和未使用代码等问题。
-
RAG 中毒成为针对大语言模型知识库的供应链攻击
研究人员发现了一种名为 RAG 中毒的新型攻击,它在索引阶段而非查询时(如提示注入)攻击检索增强生成(RAG)系统的知识库。此方法允许攻击者将恶意内容嵌入到系统的数据库中,例如 Microsoft 365 Copilot,从而导致广泛的错误信息或操纵。研究表明,即使少量被投毒的文档也会对大型知识库产生重大影响,而现有的防御措施不足以阻止这些攻击。
-
恶意软件通过软件更新和AI代码生成传播
文章讨论了通过软件更新自动化工具传播恶意软件的威胁日益增加,特别是在npm注册表中。虽然恶意软件包并非新鲜事物,但一个利用包注册表作为传输层的蠕虫代表着重大升级。文章作者是GitHub的Dependabot团队负责人,他强调,像Dependabot这样的自动化工具虽然旨在提高安全性,但如果审查不当,可能会无意中传播恶意软件。文章还触及了与AI生成代码相关的安全风险,指出许多模型会生成有缺陷的代码,甚至会建议不存在的软件包,然后攻击者会…
-
AI幻觉缓解研究与新的“HalluSquatting”安全威胁发生冲突
研究人员正在开发新的方法来对抗AI幻觉,这是一个语言模型生成事实错误信息的重要问题。一种方法G-Frame,采用受博弈论和贝叶斯原理启发的多元代理框架来训练一个名为OmniChem的专业模型,该模型显示幻觉显著减少。另一种策略HalMit,采用黑盒监视器框架来检测幻觉,而无需访问模型内部。与此同时,一种名为“HalluSquatting”的关键安全漏洞已经出现,攻击者利用AI对不存在的软件包的幻觉,诱骗AI代理下载并运行恶意代码,对各…