实体
David Chanin
David Chanin
PulseAugur coverage of David Chanin — every cluster mentioning David Chanin across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
新研究质疑稀疏自编码器的可解释性并引入新的评估基准
两篇新研究论文调查了稀疏自编码器（SAE）的有效性和可解释性，SAE是分解神经网络表示的标准方法。第一篇论文《从几何恢复到因果验证》揭示，相当大比例的由SAE识别出的特征在因果上是惰性的，这意味着即使它们满足高恢复指标，当特征存在时它们也不会被激活。第二篇论文《SynthSAEBench》引入了一个新的基准和工具包，使用可扩展的、真实的合成数据来评估SAE，旨在为架构创新提供更精确的验证并诊断故障模式。
-
稀疏自编码器：AI可解释性的希望与陷阱
研究人员正在探索稀疏自编码器（SAE）用于机制可解释性，旨在揭示大型语言模型中的不同概念。一种新方法，结构化稀疏自编码器（$S^2AE$），通过对图像块进行分组并应用结构化稀疏正则化，提高了视觉-语言模型中的概念一致性。另一项研究强调了正确设置SAE中L0超参数的关键重要性，因为不正确的值可能导致特征无法解开底层模型概念。此外，一篇观点论文认为，虽然SAE可能在已知概念方面遇到困难，但它们在发现未知概念方面非常强大，在公平性、安全性和…