PulseAugur
中
实时 09:25:08
English(EN) Finding Usable Weight Mechanisms with Tiled SVD

新的分块SVD方法直接从权重中提取网络机制

作者 PulseAugur 编辑部 · [1 个来源] ·

研究人员开发了一种名为列分块SVD的新方法，可以直接从神经网络中的线性位提取可用的权重机制。该方法识别网络权重本身的概念，而不是依赖外部代理词典。该方法在Gemma-2-2B上使用WikiText-2进行了评估，在所有测试的线性映射中均获得满分182/182，其中特定的映射在残差写入方面显示出完整的A/B/C评分。 AI

影响 该方法可以通过直接分析大型语言模型的内部权重机制来提高其理解和可解释性。

排序理由 该条目是发表在arXiv上的研究论文，详细介绍了一种新的机制可解释性方法。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

新的分块SVD方法直接从权重中提取网络机制

报道来源 [1]

  1. arXiv cs.AI TIER_1 English(EN) · Ash Manvi, Samreena Tajreen ·

    使用分块SVD寻找可用权重机制

    arXiv:2608.06969v1 Announce Type: new Abstract: The dominant approach to mechanistic interpretability trains proxy dictionaries such as sparse autoencoders and labels features from max-activating text. The best such atlases identify con- cepts, but that identity lives in the lear…

相关实体

相关话题