Conditional Flow Models

新研究发现 AI 模型会产生科学相互作用的幻觉

一篇新的研究论文调查了条件生成模型，特别是流匹配模型，在预测科学相互作用方面的能力。研究发现，这些模型通常比相互作用更早地学习到个体效应，从而导致产生不存在的相互作用的幻觉。当数据中条件的结构延伸到未见过的目标时，可以成功预测相互作用，但模型仍然可以生成看似合理但遗漏了关键相互作用细节的响应。研究还强调，聚合保真度指标可能会掩盖模型未能准确恢复和推断相互作用的事实，尤其是在目标不太可识别或使用非线性读数时。