RAGTruth: a hallucination corpus for developing trustworthy retrieval-augmented language models
PulseAugur coverage of RAGTruth: a hallucination corpus for developing trustworthy retrieval-augmented language models — every cluster mentioning RAGTruth: a hallucination corpus for developing trustworthy retrieval-augmented language models across labs, papers, and developer communities, ranked by signal.
4 天有情绪数据
-
AI决策模型进入价格战：Perplexity 削价竞争 OpenAI、Microsoft
三家公司 OpenAI、Perplexity 和 Microsoft 近期推出了决策模型 API，引发了一场价格战，其中 Perplexity 的成本最低，为每百万输入 token 0.02美元。OpenAI 收费为 0.10美元，而 Microsoft 的定价为 0.042美元。这些模型返回结构化概率而非散文，且没有输出费用。Perplexity 的低价归因于其基于 Qwen3.8-27B 微调的小型开源模型，该模型允许自托管，而 …
-
Cloudflare 发布 Clef-omni 多模态决策模型
Cloudflare 已在 Hugging Face 上以 Apache 2.0 许可协议发布了 Clef-omni，这是一个 30B 参数的多模态混合专家模型。与传统的 LLM 不同，Clef-omni 专为决策任务设计，接受文本、图像、音频或视频输入以及键入的问题，以返回预定义答案的概率。该模型被定位为 TypeSafe 的 Jev 的替代品，旨在用于生产用例，重点是高效的决策评分而不是文本生成。虽然在意图分类方面表现出色，但与前…
-
新的HARPO框架提高了大型语言模型的忠实度和创造力
研究人员开发了HARPO，一个旨在提高大型语言模型忠实度和创造力的新型强化学习框架。HARPO使用一个在可验证反馈上训练的具身智能生成奖励模型（HA-GRM）来评估输出。一个关键组件，选择性激活机制（SAM），确保创造性奖励仅应用于被HA-GRM判定为无幻觉的输出。实验表明，HARPO在包括Qwen2.5和Qwen3在内的各种Qwen模型上显著降低了幻觉率并提高了创意写作分数。
-
新的 RAGScope 协议旨在降低幻觉分类成本
研究人员开发了 RAGScope，一种旨在有效分类检索增强生成 (RAG) 系统中幻觉的新协议。该协议旨在通过使用仅依赖输入、检索到的上下文和生成答案的泄漏控制、证据门控方法来降低成本。增强版 RAGScope-E 在 RAGTruth 任务上实现了 0.798 的 AUROC 和 0.660 的平均精度，在池化平均精度上优于 ROUGE-L。该系统在 CPU 上运行速度很快，比 DeBERTa-NLI 等更复杂的模型快得多，尽管其有…
-
新方法通过战略性人工标注改进LLM事实性评估
研究人员开发了一种新的LLM事实性评估方法，该方法将自动判断器的预测与有限的人工标注相结合。这种方法通过分析结构化的失败模式（如证据不完整或时间不匹配）来战略性地选择哪些示例接收人工标签，而不是仅仅依赖判断器的置信度。提出的失败空间分析（FSA）策略设计流程显著提高了标注效率，在内部和公共数据集上都带来了有效样本量的巨大提升。
-
新的基准和方法解决了跨模态和跨领域的 LLM 幻觉问题
研究人员正在开发新的方法和基准，以检测和减轻各种模态和领域的 LLM（大语言模型）中的幻觉。OmniHallu 为检测多模态理解和生成任务中的幻觉提供了一个统一的框架，并得到了新基准的支持。另一种方法侧重于特定领域的幻觉检测，结合分类、不确定性量化和偏好优化，以减少 Qwen2.5 等模型中的错误。对于法律应用，LexAgentHallu 被引入为一个基准，用于分析工具增强型法律代理中的幻觉，并突出代理的失败。此外，证据对齐实体验证 …
-
新的 Fed-SRC 方法提供私有、准确的 RAG 认证
研究人员开发了 Fed-SRC，一种用于联邦检索增强生成 (RAG) 系统的新型认证方法，可确保隐私和准确性。该系统允许客户端仅共享差分隐私、扰动的数据，同时仍能保证可接受输出的错误率。经验上，Fed-SRC 在各种隐私级别和策略下均未违反界限，尽管其在认证目标风险方面的有效性因数据集和特定策略而异。
-
新的Fed-SRC方法提供私有、风险认证的RAG
研究人员开发了Fed-SRC，一种用于联邦、差分隐私和自适应监控的检索增强生成（RAG）的新型认证方法。该系统提供选择性风险证书，确保接受的输出符合指定的误差目标。Fed-SRC通过客户端仅发布高斯扰动的分数和损失直方图来运行，并使用记录索引和噪声方差索引的鞅系统来限制各种阈值和轮次中的目标风险对比度和接受质量。经验评估表明，Fed-SRC在不同隐私级别和策略下都能避免同时界限违反，尽管其操作能力取决于分数和总体，并且在RAGTrut…
-
新的幻觉自玩框架提高了AI检测器的性能
研究人员开发了一个名为幻觉自玩（HSP）的新框架，以改进对AI生成幻觉的检测。该方法使用一个检测器和一个生成器，两者都从同一个基础模型初始化，以迭代地相互增强。检测器在人类数据上进行训练，然后通过强化学习用于训练生成器。生成器反过来创建具有挑战性的幻觉响应，以进一步优化检测器，从而在RAGTruth等基准测试中提高性能。
-
新的GASP方法可检测RAG系统中的句子级幻觉
研究人员开发了一种名为扰动感知基础的敏感性（GASP）的新方法，用于检测检索增强生成（RAG）系统中的幻觉。与提供单一分数的先前方法不同，GASP能够识别答案中未被检索到的证据支持的特定句子。该技术衡量当支持性上下文被移除时，句子可能性的变化程度，从而区分基础内容和幻觉内容。
-
新的BALTO框架在Token级别精准定位LLM幻觉
上海交通大学和腾讯的研究人员开发了BALTO，一个新颖的强化学习框架，旨在精准消除大型语言模型（LLMs）中的幻觉。该框架通过在Token级别分配信用，仅惩罚错误的Token，同时激励正确的、事实性的Token。这一方法在最近的一篇论文中有所详述，旨在保持模型响应的丰富性和信息量，这与传统方法不同，传统方法可能会因为微小的事实错误而过度惩罚整个答案。在金融和问答数据集上的实验表明，BALTO在稳定性、效率以及平衡事实准确性与信息内容方面表现出色。
-
新的BALTO框架通过平衡令牌奖励解决LLM幻觉问题
研究人员开发了BALTO，一种用于减轻大型语言模型幻觉的新颖框架。该方法使用平衡的令牌级策略优化来更有效地分配信用，解决了局部幻觉和优化偏差问题。在ConFiQA和RAGTruth等多个基准上的实验表明，BALTO显著提高了忠实度，并与现有方法相比提供了更好的忠实度和信息量之间的权衡。
-
新研究通过新颖的检测和纠正方法解决 LLM 和 VLM 幻觉问题
研究人员正在开发新颖的方法来对抗大型语言模型 (LLM) 和视觉语言模型 (VLM) 中的幻觉。一种方法，循环注意力不确定性量化 (RAUQ)，利用注意力头行为来有效检测 LLM 中的事实不准确性，计算开销极小。对于 VLM，诸如检索增强的可靠性感知推理和注意力不平衡校正 (AIR) 等技术旨在通过将响应与外部证据联系起来并重新分配注意力权重来提高可信度。其他方法侧重于解开 VLM 解释中的语义泄漏，并使用反证据验证用于医疗应用，所有…