实体
The Pile
The Pile
PulseAugur coverage of The Pile — every cluster mentioning The Pile across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
最近 · 第 1/1 页 · 共 2 条
-
新的VPD方法分解语言模型参数，提高可解释性
研究人员引入了对抗性参数分解（VPD），一种改进的语言模型参数解释方法。这项新技术建立在先前工作如随机参数分解（SPD）和基于归因的参数分解（APD）的基础上。VPD能够分解注意力层，这是可解释性方法在历史上一直面临的挑战领域，并构建归因图来可视化模型行为。
-
RWKV project revives RNNs to challenge Transformer dominance in LLMs
The RWKV (Receptance Weighted Key Value) project introduces a novel architecture that revives Recurrent Neural Networks (RNNs) while incorporating advantages typically found in Transformers. This approach aims to overco…