English(EN) Geometry of Confabulation and Refusal in Small Language Models

新基准探测LLM在隐藏状态下的虚构与拒绝

作者 PulseAugur 编辑部 · [1 个来源] · 2026-11-04 05:00

研究人员开发了一个名为ConfabQA的新基准，用于分析小型语言模型如何处理无法回答的问题。该研究调查了模型在生成响应之前的内部状态是否可以预测甚至影响模型是拒绝回答还是自信地提供错误答案（虚构）。通过使用线性探针和稀疏自动编码器，研究发现这些内部状态确实可以区分Qwen3-1.7B和Gemma 2-2B等模型中即将发生的拒绝和虚构。研究还表明，操纵这些内部状态可以将虚构有效地转化为拒绝，这表明模型的方向性门控了言语行为，而不是其潜在的知识。 AI

影响提供了理解和潜在控制LLM行为的新方法，特别是在事实准确性和拒绝机制方面。

排序理由该集群是一篇研究论文，详细介绍了一个用于分析LLM行为的新基准和方法。 [lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.CL 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

本文如何被排名

Signal score: 38 / 100; Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket: Tool; 该集群是一篇研究论文，详细介绍了一个用于分析LLM行为的新基准和方法。 [lever_c_demoted from research: ic=1 ai=1.0]
Source corroboration: Single-source cluster; Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics: paper, model release; Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance: High; Clearly on-topic for AI-industry coverage.
Story freshness: Breaking (< 6h); Fresh story with cross-source coverage still developing. Ranking may shift as more sources report.

完整方法见我们的编辑标准。

报道来源 [1]

arXiv cs.CL TIER_1 English(EN) · Vladimir Kazei · 2026-11-04 05:00

小型语言模型中虚构与拒绝的几何学

arXiv:2611.01272v1 Announce Type: cross Abstract: Faced with an unanswerable question, small language models can either refuse or confabulate: confidently produce a wrong answer. Can the hidden state before the first generated token provide a clue? Can we flip confabulations into…

本文如何被排名

报道来源 [1]

小型语言模型中虚构与拒绝的几何学

相关实体

相关话题