English(EN) From Associations to Activations: Comparing Behavioral and Hidden-State Semantic Geometry in LLMs

新研究比较大型语言模型行为与其内部语义几何

作者 PulseAugur 编辑部 · [1 个来源] · 2026-10-15 04:00

研究人员调查了大型语言模型（LLMs）的内部表征与其可观察行为之间的关系。通过在八个指令微调的Transformer模型上进行超过1750万次试验，他们将基于相似性的强制选择和自由联想任务的行为数据与模型的隐藏状态几何进行了比较。研究发现，强制选择行为比自由联想更能反映内部状态，这表明行为测量确实可以揭示LLM语义几何的信息。 AI

影响这项研究深入探讨了大型语言模型的行为与其内部工作机制的关系，可能为未来的模型可解释性和评估方法提供指导。

排序理由该集群包含一篇在arXiv上发表的研究论文，详细介绍了关于大型语言模型行为和内部状态的实验发现。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

本文如何被排名

Signal score: 12 / 100; Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket: Tool; 该集群包含一篇在arXiv上发表的研究论文，详细介绍了关于大型语言模型行为和内部状态的实验发现。[lever_c_demoted from research: ic=1 ai=1.0]
Source corroboration: Single-source cluster; Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics: paper, model release; Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance: High; Clearly on-topic for AI-industry coverage.
Story freshness: Breaking (< 6h); Fresh story with cross-source coverage still developing. Ranking may shift as more sources report.

完整方法见我们的编辑标准。

报道来源 [1]

arXiv cs.AI TIER_1 English(EN) · Louis Schiekiera, Max Zimmer, Christophe Roux, Sebastian Pokutta, Fritz G\"unther · 2026-10-15 04:00

从联想到激活：比较大型语言模型中行为和隐藏状态的语义几何

arXiv:2602.00628v3 Announce Type: replace-cross Abstract: We investigate the extent to which an LLM's hidden-state geometry can be recovered from its behavior in psycholinguistic experiments. Across eight instruction-tuned transformer models, we run two experimental paradigms -- …

本文如何被排名

报道来源 [1]

从联想到激活：比较大型语言模型中行为和隐藏状态的语义几何

相关实体

相关话题