新的BASIS防御措施减少了由提示注入攻击引起的LLM过度拒绝

研究人员开发了BASIS，一种旨在减轻大型语言模型中提示注入攻击的新型防御系统。与之前广泛拒绝可能被泄露的输入的旧方法不同，BASIS采用两阶段方法，利用注意力竞争比来预测注入是否会实际泄露模型。这使得BASIS能够选择性地拒绝有害的注入，同时允许安全的注入，从而减少不必要的过度拒绝，并提高LLM应用程序的可用性。 AI

影响 这种防御机制可以通过防止不必要的拒绝用户输入来提高LLM应用程序的可靠性和可用性。

排序理由 该集群包含一篇详细介绍LLM安全新方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.LG 阅读 →

• alphaXiv
• arXiv
• Attention Competition Ratio
• BASIS
• CatalyzeX
• DagsHub
• Gotit.pub
• Hugging Face
• large language model
• prompt injection
• ScienceCast

• 论文
• 安全

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →