English(EN) Written Once, Read Differently How Language Models Own Answers Steer Their Next Ones

语言模型在回答问题时表现出“自我承诺”

作者 PulseAugur 编辑部 · [1 个来源] · 2026-11-04 05:00

研究人员调查了语言模型如何进行“自我承诺”，发现模型对一个是非题的初步回答会影响其后续对相关话题的回答。这种被称为“自我承诺”的现象是通过在模型的残差流中写入一个“承诺方向”来实现的。该研究分析了22个开放权重模型，发现这些承诺方向的相似性可以预测答案的耦合程度，而消除一个共享方向会显著减弱这种效应。该方向的解读方式因模型规模、指令调整和系统提示而异，表明模型在保持一致性方面存在复杂的相互作用。 AI

影响揭示了一种理解大型语言模型如何保持一致性并可能展现出涌现式推理能力的新机制。

排序理由研究论文，详细介绍了关于语言模型行为的一项新发现。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.CL 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

本文如何被排名

Signal score: 41 / 100; Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket: Tool; 研究论文，详细介绍了关于语言模型行为的一项新发现。[lever_c_demoted from research: ic=1 ai=1.0]
Source corroboration: Single-source cluster; Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics: paper, model release; Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance: High; Clearly on-topic for AI-industry coverage.
Story freshness: Breaking (< 6h); Fresh story with cross-source coverage still developing. Ranking may shift as more sources report.

完整方法见我们的编辑标准。

报道来源 [1]

arXiv cs.CL TIER_1 English(EN) · Marcus Armstrong · 2026-11-04 05:00

一次编写，不同解读：语言模型如何通过自有答案引导其后续回答

arXiv:2611.03198v1 Announce Type: new Abstract: When a language model answers a yes/no question, that answer changes how it answers a different question about the same entity. We study this \emph{self-commitment} in 22 open-weight models from four families (0.5B--72B parameters),…

本文如何被排名

报道来源 [1]

一次编写，不同解读：语言模型如何通过自有答案引导其后续回答

相关实体

相关话题