English(EN) Finding Usable Weight Mechanisms with Tiled SVD

新的分块SVD方法直接从权重中提取网络机制

作者 PulseAugur 编辑部 · [1 个来源] · 2026-08-10 04:00

研究人员开发了一种名为列分块SVD的新方法，可以直接从神经网络中的线性位提取可用的权重机制。该方法识别网络权重本身的概念，而不是依赖外部代理词典。该方法在Gemma-2-2B上使用WikiText-2进行了评估，在所有测试的线性映射中均获得满分182/182，其中特定的映射在残差写入方面显示出完整的A/B/C评分。 AI

影响该方法可以通过直接分析大型语言模型的内部权重机制来提高其理解和可解释性。

排序理由该条目是发表在arXiv上的研究论文，详细介绍了一种新的机制可解释性方法。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

本文如何被排名

Signal score: 0 / 100; Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket: Tool; 该条目是发表在arXiv上的研究论文，详细介绍了一种新的机制可解释性方法。[lever_c_demoted from research: ic=1 ai=1.0]
Source corroboration: Single-source cluster; Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics: paper, model release; Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance: High; Clearly on-topic for AI-industry coverage.
Story freshness: 59 days old; Aged out of breaking-news scoring windows; ranking reflects the durable signal from the full source set.

完整方法见我们的编辑标准。

报道来源 [1]

arXiv cs.AI TIER_1 English(EN) · Ash Manvi, Samreena Tajreen · 2026-08-10 04:00

使用分块SVD寻找可用权重机制

arXiv:2608.06969v1 Announce Type: new Abstract: The dominant approach to mechanistic interpretability trains proxy dictionaries such as sparse autoencoders and labels features from max-activating text. The best such atlases identify con- cepts, but that identity lives in the lear…

本文如何被排名

报道来源 [1]

使用分块SVD寻找可用权重机制

相关实体

相关话题