研究人员开发了一种名为量化鞅违规 (QMV) 的新方法，以解决在用于循证决策的 Transformer 模型中存在的顺序敏感性问题。该方法通过形式化期望-实现差距来解决不可靠答案的问题，其中训练在证据排列上最小化预期的描述长度，而固定的顺序保持位置敏感。该方法引入了如信任比特 (B2T) 和幻觉风险 (RoH) 等指标，以帮助确定模型何时应提供答案或弃权，并在多个数据集上显示出有希望的结果。 AI
影响 引入了一个框架，以提高基于证据做出决策的 AI 系统的可靠性，有可能减少幻觉。
排序理由 该集群包含一篇详细介绍新研究方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →