实体
AlphaSteer
AlphaSteer
PulseAugur coverage of AlphaSteer — every cluster mentioning AlphaSteer across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
新型防御探测LLM隐藏状态以阻止预填充攻击
研究人员开发了一种名为响应时间探测（response-time probing）的大型语言模型新防御机制，可有效对抗预填充攻击。该方法与AlphaSteer等现有技术结合，在Mistral和Llama等模型上实现了超过0.98的防御成功率。研究还指出，MMLU等标准基准可能无法完全捕捉到引导方法（steering methods）的真实效用成本，这种成本可能表现为行为对冲（behavioral hedging）而非事实损失。
-
新的响应时间探测方法提高了 LLM 对预填充攻击的安全性
研究人员开发了一种名为响应时间探测的新方法，通过检测预填充攻击来增强大型语言模型的安全性。该技术通过在第一个生成的 token 处探测模型的隐藏状态，在七种不同的模型上实现了 0.97-1.00 的 AUROC。当与暂停机制结合使用时，它将预填充攻击的成功率降至 0%，且没有良性误报，优于 Llama Guard 3 等现有防御措施。当这种响应暂停与 AlphaSteer 的零空间引导相结合时，取得了进一步的改进，实现了超过 0.98…