Shazeer et al.

研究发现：大型语言模型（LLM）的一致性是准确性的弱代理指标

一篇新的arXiv论文研究了使用大型语言模型（LLM）之间的一致性作为正确性代理指标的可靠性。该研究涉及53个不同的LLM运行者和265,000个样本，发现虽然一致性可以作为准确性的弱正向预测指标，但它并非独立的置信度分数。研究强调，模型可能因为共享的偏见或记忆的启发式方法而达成一致，而非事实准确性，特别是指出前沿模型表现出过度自信且存在重复性错误。研究结果表明，自我一致性是正确性的条件性指标，最好用于分配计算资源，而不是作为准确性的…