实体
Tobias Braun
Tobias Braun
PulseAugur coverage of Tobias Braun — every cluster mentioning Tobias Braun across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
新型后门攻击针对多模态 AI 模型
研究人员发现了一种新型后门漏洞，称为 ToBAC，专门针对统一自回归模型 (UAM)。这些模型能够生成文本和图像 token，容易受到多模态后门攻击，其中微妙的触发器可以操纵不同模态的输出。ToBAC 攻击可以通过数据投毒或模型投毒来实现，导致有害或有偏见的内容生成。实验显示成功率很高，其中一项攻击在 Liquid 模型中影响了 55% 的品牌推广或意识形态内容生成，另一项通过数据投毒在 JanusPro 上取得了 63.1% 的成功率。
-
新型后门绕过AI概念擦除，暴露有害内容
研究人员发现了一种针对文本到图像扩散模型的概念擦除技术（concept erasure techniques）的重大漏洞，称为擦除规避后门（Erasure Evasion Backdoor, EEB）。该后门允许攻击者嵌入一个与待删除概念相关联的隐藏触发器，从而确保即使在尝试擦除后，仍能生成与该概念相关的有害内容。EEB被证明对多种最先进的擦除方法都有效，在生成不受欢迎的输出方面取得了很高的成功率，包括名人肖像和露骨图像。