大型语言模型（LLMs）在承认自己不知道某事时存在困难，这个问题源于它们的训练和评估方式。当前的训练方法通常会奖励听起来自信的答案，即使是错误的，而不是鼓励不确定性。这可能导致“幻觉”，即模型生成看似合理但错误的信息。解决这个问题需要改变评估指标，以更好地惩罚不正确的断言并奖励准确承认无知的行为。 AI
影响 当前的LLM训练方法可能通过优先考虑自信的回答而非承认不确定性，从而无意中助长了事实上的不准确性。
排序理由 该条目是一篇评论文章，讨论了LLM及其训练中一个已知的问题，而不是报道新的进展或发布。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
