新框架训练大型语言模型检测表格数据中的不可靠答案

研究人员开发了ReliableTableQA，一个旨在训练大型语言模型（LLMs）评估从表格数据生成的答案的统计可靠性的新框架。该系统解决了LLMs因样本量小或置信区间宽等因素而提供自信但统计上无意义的答案的问题，这个问题被量化为不可靠自信答案率（UCAR）。该框架包括一个十类可靠性分类法和一个生成50,000个标注示例的数据管道。一个关键发现是，有限数量的监督微调（SFT）示例（约200个）足以显著提高可靠性标记能力并将UCAR降至零，甚至可以泛化到未见过的领域。研究还发现，当SFT得到充分训练时，来自人类反馈的强化学习（RLHF），特别是GRPO，带来的好处很小，将可靠性标注重新定义为数据效率挑战。 AI

影响 这项研究可能通过使LLMs能够识别和标记统计上不可靠的输出来，促使数据分析领域出现更值得信赖的AI系统。

排序理由 该集群包含一篇学术论文，详细介绍了用于LLM评估的新框架和方法论。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

• Grpo
• H&M
• R1-R10
• ReliableTableQA
• supervised fine-tuning

• 论文
• 模型发布

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →