一项新的研究论文介绍GUISE，这是一个旨在评估大型语言模型（LLM）在嵌入叙事包装时有效拒绝有害请求能力的基准。研究发现，像Qwen3-1.7B这样的模型极易受到这些包装的影响，在不同语言和语域下的拒绝率显著下降。为了解决这一脆弱性，研究人员开发了AXIS，一种结合了偏好优化和目标对齐的防御机制，将有害请求的表示与拒绝方向对齐，并确保完全拒绝，在Qwen3-1.7B、Qwen3-4B和GLM-4-9B上实现了高安全性和可用性得分。 AI
影响 强调了大语言模型一个关键的安全漏洞并提出了一种防御方法，可能影响未来的模型对齐策略。
排序理由 该集群包含一篇学术论文，详细介绍了大语言模型安全方面的新基准和防御机制。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
