attention heads
PulseAugur coverage of attention heads — every cluster mentioning attention heads across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
新研究揭示 LLM 的过度自信源于特定的内部回路
一篇题为“为过度自信而生”（Wired for Overconfidence）的新研究论文探讨了大语言模型（LLM）自信地提供错误信息的现象。该研究确定了 LLM 内负责产生这种膨胀的言语自信度的特定回路，主要由中后期层的 MLP 块和注意力头组成。研究人员证明，通过在推理过程中干预这些回路，可以显著提高模型的校准度并降低过度自信。
-
新的剪枝方法可实现LLM中细粒度的因果电路发现
研究人员开发了一种新颖的节点级剪枝框架，用于在大型语言模型（LLMs）中发现因果电路。该方法可以更细粒度地识别关键子网络，精确到单个神经元，克服了现有边缘剪枝技术（侧重于注意力头或MLP块等较粗粒度单元）的局限性。该框架使用可学习的掩码和特定于粒度的稀疏性惩罚，在单次微调运行中实现全面的压缩，与先前的方法相比，发现的电路更小，内存占用显著降低。
-
潜在空间统一了各种现代AI架构
潜在空间的概念是各种现代AI架构（包括自编码器、注意力机制、扩散模型和世界模型）的统一原则。这种抽象表示对于理解这些不同系统如何处理和生成信息至关重要。探索潜在空间可以深入了解高级AI的内部工作原理和能力。
-
权重衰减控制 Transformer 训练机制，揭示新的诊断方法
研究人员发现，在模块化算术任务上，权重衰减是控制 Transformer 训练机制的关键参数。他们引入了两种新的、低成本的在线诊断方法——平均成对注意力头余弦相似度和熵标准差——以监测注意力激活的训练动态。这些诊断方法应用于各种实验条件和模型规模，能有效区分记忆、泛化（grokking）和崩溃，并确定了记忆到发展的边界的具体过渡点。