研究人员开发了一种名为 ADSD 的新型提示后缀攻击，该攻击利用了推测性解码中的漏洞。推测性解码是一种用于加速 AI 模型推理的技术。ADSD 系统性地将草稿模型（draft model）的概率推向目标模型（target model）不太可能接受的 token，导致验证器（verifier）接受率崩溃。这种攻击可以将 GSM8K 等数据集上的推理时间显著增加多达 62.3%，同时仍能保持任务输出的质量。研究人员证明，这种漏洞存在于各种领域、推测性解码策略和模型架构中。 AI
影响 这项研究突显了 AI 推理加速中的一个关键安全漏洞，可能影响已部署模型的效率和可靠性。
排序理由 详细介绍 AI 推理技术新攻击方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
