anyformat

LLM文档提取技术对抗幻觉

大型语言模型（LLM）在文档提取过程中可能会出现幻觉，即捏造或错误归因信息，导致出现虚构的发票总额或不正确的供应商名称等错误。为解决此问题，技术包括将提取的值与其在源文档中的位置进行关联（grounding），使用校准的置信度分数（而非原始模型概率）来反映实际准确性，以及通过显式模式（schemas）约束提取以强制执行数据类型和结构。这些方法旨在使幻觉可检测和可管理，将风险转变为可审查的任务。