SummEdits

新框架使用AI陪审团验证新闻摘要并减少幻觉

研究人员开发了一个名为多源证据共识验证（MECV）的新框架，以应对AI生成新闻摘要中的幻觉问题。MECV通过从多个来源（包括原始文档、维基百科和开放网络）收集证据，然后使用一个由不同AI模型组成的陪审团，通过共识评分机制来评估事实的可靠性。潜在的未经支持的说法会经过最少的编辑进行完善。在SummEdits基准上的实验表明，MECV在不牺牲原始摘要含义的情况下提高了事实一致性。