研究人员开发了 SpecGuard，一种在推理过程中检测大型语言模型后门的新颖方法。该技术重新利用了推测解码（一种加速 LLM 推理的过程），以识别恶意行为，而无需增加计算成本。SpecGuard 利用草稿模型预测与目标模型验证过程之间的差异来检测触发的后门，即使是那些逃避传统输入级过滤器的隐蔽攻击也能检测到。该方法已在各种后门类型和模型系列中展示了可靠的检测能力，表明推测解码可以作为 LLM 安全的免费、连续信号。 AI
影响 通过提供一种免费的推理时后门检测方法来增强 LLM 安全性，从而可能增加对共享模型的信任。
排序理由 详细介绍 LLM 安全新方法的论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
