belief-update filtering

基于证据的信念增强LLM以促进持续科学发现

研究人员开发了一种利用大型语言模型（LLM）并结合基于证据的信念来进行持续科学发现的新方法。该方法解决了先前将LLM“意外性”视为静态的局限性，而人类推理涉及不断变化的信念。新技术使用先前发现的证据更新LLM先验，从而能够计算非平稳意外性。实验表明，基于嵌入的检索增强生成能够有效地预测未来的后验并识别虚假奖励，在五个发现领域中平均使累积的非平稳意外性增加了30.62%。