一篇新论文探讨了神经网络表示中的“概念维度”概念，质疑了常用的测量方法。研究人员证明，迭代擦除计数（常用于量化神经网络编码信息的方向数量）可以通过可逆重参数化进行操纵。这表明这些计数不是概念的内在属性，而是取决于所使用的特定测量过程。该研究以 V-JEPA2 特征为例，说明了即使底层预测问题相同，不同的优化过程也会产生不同的结果。 AI
影响 挑战了当前理解神经网络表示的方法，可能影响未来模型可解释性研究。
排序理由 该集群包含一篇讨论神经网络表示中理论概念的学术论文。
在 Hugging Face Daily Papers 阅读 →
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
How many directions does a neural representation use to encode a concept? A common answer repeatedly erases probe directions and reports the stopping count or cumulative removed rank. We show that both quantities can change under an information-preserving invertible reparameteriz…
arXiv:2608.10566v1 Announce Type: new Abstract: How many directions does a neural representation use to encode a concept? A common answer repeatedly erases probe directions and reports the stopping count or cumulative removed rank. We show that both quantities can change under an…