PulseAugur
中
实时 07:10:45
English(EN) Sky sphere representation in language models

大型语言模型展现出令人惊讶的夜空地图表示

作者 PulseAugur 编辑部 · [1 个来源] ·

研究人员发现，大型语言模型（特别是参数量在1000亿左右的模型）可以编码夜空地图的表示。这种表示可以从模型的残差流中解码，并且在提示询问天体邻近性时经常出现。在大多数测试过的开源模型中，这种天空球体表示解释了很大一部分方差，中值角度误差低至12-21度。研究证实这并非来自平面表示的简单泄露，并将其确定为已知的第一个高维不可约特征流形。 AI

影响 揭示了大型语言模型中意想不到的涌现能力，暗示了对空间和天文学概念更深层次的理解。

排序理由 学术论文，详细介绍了模型内部表示的一项新发现。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.LG 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

大型语言模型展现出令人惊讶的夜空地图表示

报道来源 [1]

  1. arXiv cs.LG TIER_1 English(EN) · Aleksandr Berdnikov, Yevgeny Liokumovich ·

    语言模型中的天球表示

    arXiv:2607.27092v1 Announce Type: new Abstract: We analyze whether language models of size ~100B have a representation of the night sky map that is decodable from their residual stream. We find that most of the considered open-source models do have such a representation, and it o…

相关实体

相关话题