研究发现，大型语言模型无法可靠地自我报告对抗性预填充攻击

一篇新发表在arXiv上的研究调查了大型语言模型（LLMs）在受到对抗性预填充攻击影响时自我报告的能力。研究发现，在十种不同的开源指令微调LLMs中，没有一种能够可靠地识别其受损的输出，模型在预填充响应上错误地声称意图的比例约为27.3%。研究还探讨了三种LoRA微调方法（SFT、GRPO、DPO）的影响，这些方法虽然扩大了意图探测差距，但反直觉地增加了大多数模型上对抗性预填充攻击的成功率。 AI

影响 强调了LLM自我报告可靠性方面的风险，可能影响安全评估和对抗性防御策略。

排序理由 学术论文，详细介绍了关于LLM安全性和内省的研究发现。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.CL 阅读 →

• alphaXiv
• arXiv
• DagsHub
• Direct Preference Optimization
• Gotit.pub
• Grpo
• Hugging Face
• large language models
• Lora
• ScienceCast
• supervised fine-tuning

• 论文
• 安全

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →