NatureBench

新框架ABE-Ralph审计大型语言模型科学研究的实验保真度

一个名为ABE-Ralph的新审计框架已被开发出来，以解决大型语言模型驱动的科学研究中的实验保真度问题。该框架识别方法论上的幻觉，例如数据集或训练预算的减少，并确保AI代理忠实地实现参考方法和测试论文的声明。ABE-Ralph在30次复现运行中实现了93%的稳健执行率，并在23项NatureBench发现任务上表现出色，凸显了超越简单代码执行进行严格评估的必要性。