Seva

新的SEVA代理通过详细验证解决LLM幻觉问题

研究人员开发了SEVA，一种新颖的自演化验证代理，旨在对抗基于LLM的系统中的幻觉。与提供不透明二元标签的传统验证器不同，SEVA提供详细的证据对齐、推理链和置信度分数，使代理能够自我纠正，操作员能够审计输出。该代理利用过程奖励机制来克服训练挑战，并通过迭代改进后在基准测试上进行专业化，在ClearFacts上达到了GPT-4o mini的性能，同时提供了更丰富、可审计的信息。