Kalai et al.
PulseAugur coverage of Kalai et al. — every cluster mentioning Kalai et al. across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
LLM幻觉激增:旗舰模型事实性下降
对LLM幻觉率的最新分析揭示了一个令人担忧的趋势:尽管模型智能有所进步,但事实性正在下降。Cheltenham Data的Vectara Hallucination Leaderboard数据显示,2026年105个模型中的平均幻觉率为10.24%,显著高于2024年的6.25%。这种退化在GPT-5.5和Gemini 3-Pro等旗舰模型中尤为明显,与它们的前代模型相比,它们的幻觉率更高。该问题似乎源于来自人类反馈的强化学习(RLH…
-
大型语言模型因训练和知识压缩而自信地产生幻觉
大型语言模型自信地呈现不准确的信息,这是由于其训练和知识压缩的固有方面造成的。训练优先考虑流畅性而非真实性,模型即使不确定也会被激励去猜测而不是弃权。知识以统计关联而非离散事实的形式存储,导致不太常见的信息出错。虽然将答案与来源联系起来或降低采样温度等方法有帮助,但核心问题仍然是当前基准测试中奖励猜测的激励结构。
-
新研究探讨 RAG 的可靠性、效用和幻觉风险 · 追踪 8 个来源
近期研究探讨了检索增强生成 (RAG) 系统的细微差别,重点关注提高其可靠性和效用。一篇论文详细介绍了一个用于 LLMs4OL 2026 挑战的系统,该系统使用 Qwen2.5-14B-Instruct 进行检索增强的少样本提示,在本体学习任务上取得了优异的成绩,但突出了关系提取方面的局限性。另一项研究调查了证据感知检索评估(优先考虑支持生成的段落)是否能真正提高下游效用,发现结果好坏参半,并建议应根据具体用例定制评估方法。进一步的研…
-
大型语言模型“幻觉”是三种不同的错误,而非一种
大型语言模型(LLM)中的“幻觉”一词被用来描述三种不同的问题,导致解决方案的开发陷入混乱。第一种类型涉及事实不准确,可以通过提供缺失的上下文来纠正模型,这是思维链提示等技术所解决的问题。第二种类型是模型输出模仿理解但缺乏真正的理解,这很难验证。第三种类型涉及对未来事件的预测,由于必要的上下文尚不存在,因此无法给出准确的响应。研究表明,当前的大型语言模型基准无意中奖励了自信的猜测而非诚实,从而加剧了幻觉问题。