Erin George

新研究探讨AI模型中的“观察性多重性”

一篇题为《观察性多重性》（Observational Multiplicity）的新论文引入了观察性多重性的概念，用以描述多个模型在预测任务上表现几乎同样好。这种现象可能导致对个体产生冲突的预测，影响可解释性和安全性。该研究提出使用“后悔”（regret）度量来评估个体概率预测的任意性，“后悔”量化了模型预测可能因不同训练标签而发生的变化。作者们提出了一种估计这种“后悔”的方法，并展示了其在通过弃权和定向数据收集来促进安全性方面的潜在…