English(EN) Geometric Deviation as an Unsupervised Pre-Generation Reliability Signal: Probing LLM Representations for Answerability

LLM的可回答性由早期层的几何偏差发出信号

作者 PulseAugur 编辑部 · [2 个来源] · 2026-05-04 22:24

研究人员开发了一种新方法，可以在大型语言模型生成响应之前预测其是否能回答问题。该技术分析了模型内部表示的几何偏差，发现无法回答的数学查询显示出独特的模式。该信号在模型的早期层中最强，并且似乎是形式条件性的，在数学和代码提示上表现良好，但在事实性提示上则不然。 AI

影响这种方法可以使LLM更可靠地发出无法回答查询的信号，从而改善用户体验和在结构化领域中的信任度。

排序理由该集群包含一篇学术论文，详细介绍了一种探究LLM表示的新方法。

AI 生成摘要 · Google Gemini · 来自 2 个来源。我们如何撰写摘要 →

报道来源 [2]

arXiv cs.LG TIER_1 English(EN) · Yucheng Du · 2026-05-06 04:00

几何偏差作为无监督预生成可靠性信号：探究LLM表征的可回答性

arXiv:2605.03196v1 Announce Type: cross Abstract: A reliable language model should be able to signal, prior to generation, when a query falls outside its knowledge. We investigate whether representation geometry can provide such a pre-generation signal by measuring the deviation …
arXiv cs.CL TIER_1 English(EN) · Yucheng Du · 2026-05-04 22:24

几何偏差作为无监督预生成可靠性信号：探究LLM表征的可回答性

A reliable language model should be able to signal, prior to generation, when a query falls outside its knowledge. We investigate whether representation geometry can provide such a pre-generation signal by measuring the deviation of hidden states from an answerable reference set,…