English(EN) From Detection to Refusal: Safer LLMs via Circuit-Guided Weight Scaling

新研究揭示 LLM 安全电路，提高拒绝率

作者 PulseAugur 编辑部 · [1 个来源] · 2026-09-02 04:00

研究人员在大型语言模型 (LLM) 中识别出一个多阶段安全电路，该电路控制其拒绝有害内容的能力。该电路包括有害检测头、安全神经元和拒绝头，它们按顺序工作，处理有害输入并生成安全响应。通过基于对该电路的理解进行的有针对性的干预和权重缩放，该研究证明了 LLM 在对抗性攻击下的安全率得到了显著提高，同时对一般准确性的影响最小。 AI

影响提供了对 LLM 安全机制的更深入理解，可能导致更强大的对齐技术。

排序理由该集群包含一篇研究论文，详细介绍了对 LLM 安全电路的新的机制可解释性研究。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

本文如何被排名

Signal score: 31 / 100; Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket: Tool; 该集群包含一篇研究论文，详细介绍了对 LLM 安全电路的新的机制可解释性研究。[lever_c_demoted from research: ic=1 ai=1.0]
Source corroboration: Single-source cluster; Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics: paper, safety; Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance: High; Clearly on-topic for AI-industry coverage.
Story freshness: Breaking (< 6h); Fresh story with cross-source coverage still developing. Ranking may shift as more sources report.

完整方法见我们的编辑标准。

报道来源 [1]

arXiv cs.AI TIER_1 English(EN) · Kuan-Lin Chu, Chung-En Sun, Tsui-Wei Weng · 2026-09-02 04:00

从检测到拒绝：通过电路引导的权重缩放实现更安全的 LLM

arXiv:2609.00051v1 Announce Type: cross Abstract: Despite extensive alignment efforts, Large Language Models (LLMs) remain vulnerable to generating unsafe content under adversarial prompting, yet the internal mechanisms by which safety behaviors are implemented remain poorly unde…

本文如何被排名

报道来源 [1]

从检测到拒绝：通过电路引导的权重缩放实现更安全的 LLM

相关实体

相关话题