PulseAugur
中
实时 11:01:30
English(EN) I-CALM: Incentivizing Confidence-Aware Abstention for LLM Selective Answering

新框架 I-CALM 鼓励大语言模型在可能出错时弃答

作者 PulseAugur 编辑部 · [1 个来源] ·

研究人员开发了 I-CALM，一个旨在提高大语言模型 (LLM) 选择性回答能力的新框架。该方法鼓励大语言模型在可能给出错误答案时选择弃答，从而在保持正确回答率的同时降低错误回答的比例。I-CALM 通过引发置信度、定义回答/弃答的收益，并引导模型走向真实和谦逊来实现这一目标，而无需重新训练模型或访问其内部状态。 AI

影响 通过使大语言模型在置信度低时能够表达不确定性并选择弃答，提高了其可靠性。

排序理由 该集群包含一篇详细介绍大语言模型新框架的学术论文。 [lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

新框架 I-CALM 鼓励大语言模型在可能出错时弃答

报道来源 [1]

  1. arXiv cs.AI TIER_1 English(EN) · Haotian Zong, Binze Li, Yufei Long, Sinyin Chang, Jialong Wu, Gillian K. Hadfield ·

    I-CALM：激励置信度感知型LLM选择性回答的弃权机制

    arXiv:2604.03904v2 Announce Type: replace-cross Abstract: Large language models (LLMs) often produce confident but incorrect answers, in part because standard evaluation incentives reward guessing over expressing uncertainty. We study epistemic abstention for factual questions wi…

相关实体

相关话题