PulseAugur
中
实时 10:58:56
实体 Usenix Security 2025

Usenix Security 2025

PulseAugur coverage of Usenix Security 2025 — every cluster mentioning Usenix Security 2025 across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 4
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 4 条
  1. TOOL · CL_340529 ·

    AI代理的“已完成”声明面临新的审查,需提供证据和收据系统

    开发人员正在探索确保AI编码代理在其工作中更加可靠和透明的方法。一种方法是实施“已完成证明”钩子,阻止代理在未提供可验证证据(如命令输出或CI状态)的情况下声称完成。另一种策略侧重于生成“执行收据”,公开记录工具调用及其结果,从而能够独立验证保存数据的完整性。像Plumbgraph这样的工具正在开发中,用于在代理声明任务完成之前检查是否存在非现有依赖项、测试减弱和未使用代码等问题。

  2. TOOL · CL_238162 ·

    RAG 中毒成为针对大语言模型知识库的供应链攻击

    研究人员发现了一种名为 RAG 中毒的新型攻击,它在索引阶段而非查询时(如提示注入)攻击检索增强生成(RAG)系统的知识库。此方法允许攻击者将恶意内容嵌入到系统的数据库中,例如 Microsoft 365 Copilot,从而导致广泛的错误信息或操纵。研究表明,即使少量被投毒的文档也会对大型知识库产生重大影响,而现有的防御措施不足以阻止这些攻击。

  3. COMMENTARY · CL_206999 ·

    恶意软件通过软件更新和AI代码生成传播

    文章讨论了通过软件更新自动化工具传播恶意软件的威胁日益增加,特别是在npm注册表中。虽然恶意软件包并非新鲜事物,但一个利用包注册表作为传输层的蠕虫代表着重大升级。文章作者是GitHub的Dependabot团队负责人,他强调,像Dependabot这样的自动化工具虽然旨在提高安全性,但如果审查不当,可能会无意中传播恶意软件。文章还触及了与AI生成代码相关的安全风险,指出许多模型会生成有缺陷的代码,甚至会建议不存在的软件包,然后攻击者会…

  4. RESEARCH · CL_129002 ·

    AI幻觉缓解研究与新的“HalluSquatting”安全威胁发生冲突

    研究人员正在开发新的方法来对抗AI幻觉,这是一个语言模型生成事实错误信息的重要问题。一种方法G-Frame,采用受博弈论和贝叶斯原理启发的多元代理框架来训练一个名为OmniChem的专业模型,该模型显示幻觉显著减少。另一种策略HalMit,采用黑盒监视器框架来检测幻觉,而无需访问模型内部。与此同时,一种名为“HalluSquatting”的关键安全漏洞已经出现,攻击者利用AI对不存在的软件包的幻觉,诱骗AI代理下载并运行恶意代码,对各…