AlphaSteer

新型防御探测LLM隐藏状态以阻止预填充攻击

研究人员开发了一种名为响应时间探测（response-time probing）的大型语言模型新防御机制，可有效对抗预填充攻击。该方法与AlphaSteer等现有技术结合，在Mistral和Llama等模型上实现了超过0.98的防御成功率。研究还指出，MMLU等标准基准可能无法完全捕捉到引导方法（steering methods）的真实效用成本，这种成本可能表现为行为对冲（behavioral hedging）而非事实损失。