研究人员开发了一个名为 Conformal Abstention (CA) 的事后框架，以帮助语言模型确定何时应放弃回答查询。该方法旨在通过为参与的可能性和响应的正确性提供有限样本保证来减少幻觉。CA 利用预测置信度，并由模型的内部表示几何进行校准，来衡量知识在响应生成中的参与度。实验表明，这种方法显著提高了选择性回答能力，达到了 75% 的条件正确性。 AI
影响 引入了一种通过让语言模型承认无知来提高其可靠性的方法，有可能减少幻觉并增加对其输出的信任。
排序理由 这是一篇详细介绍语言模型新框架的研究论文。
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
arXiv:2604.27914v1 Announce Type: new Abstract: When language models lack relevant knowledge for a given query, they frequently generate plausible responses that can be hallucinations, rather than admitting being agnostic about the answer. Retraining models to reward admitting ig…
When language models lack relevant knowledge for a given query, they frequently generate plausible responses that can be hallucinations, rather than admitting being agnostic about the answer. Retraining models to reward admitting ignorance can lead to overly conservative behavior…