English(EN) There Is More to Refusal in Large Language Models than a Single Direction

新研究揭示了大型语言模型中复杂的拒绝机制

作者 PulseAugur 编辑部 · [1 个来源] · 2026-09-16 04:00

发表在arXiv上的一项研究表明，大型语言模型中的拒绝行为比之前理解的要复杂。不同的拒绝类别对应于激活空间中不同的方向，而不是单一方向的控制。虽然干预措施可以引导模型以统一的方式拒绝，但拒绝的潜在机制因类型而异。该研究利用稀疏自编码器来识别拒绝的共享和特定领域的潜在表示，突显了线性可解释性在理解模型对齐行为方面的局限性。 AI

影响改进了对大型语言模型安全机制的理解，可能导致更细致的对齐技术。

排序理由发表在arXiv上的研究论文，详细介绍了关于大型语言模型拒绝机制的发现。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.CL 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

本文如何被排名

Signal score: 12 / 100; Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket: Tool; 发表在arXiv上的研究论文，详细介绍了关于大型语言模型拒绝机制的发现。[lever_c_demoted from research: ic=1 ai=1.0]
Source corroboration: Single-source cluster; Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics: paper, safety; Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance: High; Clearly on-topic for AI-industry coverage.
Story freshness: Breaking (< 6h); Fresh story with cross-source coverage still developing. Ranking may shift as more sources report.

完整方法见我们的编辑标准。

报道来源 [1]

arXiv cs.CL TIER_1 English(EN) · Faaiz Joad, Majd Hawasly, Sabri Boughorbel, Nadir Durrani, Husrev Taha Sencar · 2026-09-16 04:00

大型语言模型中的拒绝不止一个方向

arXiv:2602.02132v2 Announce Type: replace Abstract: Prior work argues that refusal in large language models is mediated by a single direction, enabling steering and abliteration. We show that this account is incomplete: across diverse refusal and non-compliance categories, refusa…

本文如何被排名

报道来源 [1]

大型语言模型中的拒绝不止一个方向

相关实体

相关话题