实体
Meta-SecAlign
Meta-SecAlign
PulseAugur coverage of Meta-SecAlign — every cluster mentioning Meta-SecAlign across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
新的防御措施利用自蒸馏和对抗性训练来解决 LLM 中的提示注入问题 · 跟踪 2 个来源
研究人员开发了两种新颖的方法来对抗大型语言模型中的提示注入攻击。第一种方法 ERASE 使用基于策略的自蒸馏来替换多模态输入（图像、音频、视频）中的恶意注入内容，同时保留原始信息，在对任务效用影响极小的情况下实现了近乎零的攻击成功率。第二种方法 SecPO 采用了一个有原则的对抗性训练流程和一个新的 SecPO 损失函数，以创建更强大的针对自适应提示注入的防御措施，在不影响良性任务性能的情况下显著降低了攻击成功率。
-
新的 SecOPD 方法大幅削减 AI 代理的提示注入攻击
研究人员开发了一种名为安全 On-Policy Distillation (SecOPD) 的新方法来对抗自适应提示注入，这是 AI 代理面临的关键威胁。与使用序列级反馈的先前技术不同，SecOPD 在微调期间提供令牌级反馈，使模型能够更精确地学习其输出的哪些部分不安全。这种方法显著降低了攻击成功率，经过防御的 Qwen3.6-27B 模型在面对自适应提示注入时达到了 9.0% 的 ASR，相比之前最先进的 94.0% ASR 有了显…