研究人员开发了一种名为TRACE（Trajectory Return Attribution and Contrastive Erasure）的新方法，以提高大型语言模型（LLM）的安全性。该技术解决了LLM可能被诱骗生成有害内容的问题，即使它们拒绝单轮有害提示，也可以通过将请求分散到多轮来诱骗它们。TRACE通过分配一个令牌级目标来实现这一点，该目标根据拒绝可归因优势的折扣回报来加权令牌，从而使早期令牌能够因后期的拒绝证据而获得信用。该方法在各种模型和攻击中都显著降低了攻击成功率，同时对模型效用影响很小。 AI
影响 通过提供更强大的防御多轮有害提示的能力来增强LLM的安全性，可能导致更安全的AI部署。
排序理由 关于LLM安全新方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
- alphaXiv
- arXiv
- CatalyzeX
- DagsHub
- Gotit.pub
- HellaSwag
- Hugging Face
- large language models
- Massive Multitask Language Understanding
- ScienceCast
- TRACE
- Trajectory Return Attribution and Contrastive Erasure
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
