实体
Tuned Lens
Tuned Lens
PulseAugur coverage of Tuned Lens — every cluster mentioning Tuned Lens across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
Anthropic 论文介绍 J-space 作为 LLM 的“全局工作空间”
Anthropic 发布了一篇论文，详细介绍了一种名为 Jacobian Lens 的新可解释性技术，该技术在语言模型中识别出一个“J-space”。这个 J-space 似乎充当一个全局工作空间，保存着对有意识推理和内部思维过程至关重要的可言语化表征。实验表明，操纵 J-space 中的概念可以改变模型输出，而对其进行消融会损害复杂的推理任务，这表明它在 LLM 处理信息的方式中起着重要作用。
-
研究：LLM不确定性不改变推理动力学
一篇新的研究论文探讨了大型语言模型（LLM）在推理过程中如何处理不确定性。该研究利用了Logit Lens的一个变体Tuned Lens，分析了多个数据集和模型上的逐层概率轨迹。与一些预期相反，研究结果表明，不确定性不会显著改变输出令牌概率的推理动力学，确定性和不确定的预测在可比层上显示出相似的置信度增加。然而，研究也表明，更具能力的模型可能以不同的方式处理不确定性，这挑战了用于检测不确定性的简单方法。