新研究揭示了LLM防御措施在应对与身份关联的分解攻击方面的局限性

一篇题为《跨越不可链接身份的分解攻击：有状态防御在LLM服务中的局限性》的新研究论文，探讨了大语言模型服务在面对分解攻击时的脆弱性。这些攻击将有害任务分解为多个允许的请求，而无状态防御可以逐个批准。该论文认为，有效的防御需要能够对请求进行分组的有状态监控，但在攻击者使用不可链接身份时，这一点变得具有挑战性。在大量任务和良性请求上的实验表明，当前的防御策略在不超出资源预算的情况下难以阻止这些攻击，这表明需要额外的机制，例如身份链接或对答案使用的控制。 AI

影响 突出了当前LLM安全机制的关键漏洞，可能需要新的防御策略。

排序理由 在arXiv上发表的研究论文，详细介绍了针对LLM防御的新攻击向量。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.CL 阅读 →

• alphaXiv
• arXiv
• CatalyzeX Code Finder for Papers
• CORE Recommender
• DagsHub
• Decomposition Attacks Across Unlinkable Identities: Limits of Stateful Defenses for LLM Services
• Gotit.pub
• Hugging Face
• Influence Flower
• ScienceCast

• 论文
• 安全

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →