Artif. Intell.

AI安全研究引入新方法来验证概率性声明

研究人员开发了一种交互式PCP协议，用于验证AI预测器所做概率性声明的自我一致性。这项工作对AI安全具有重要意义，因为它提供了一种方法来确保AI对其不希望发生结果的概率性预测的诚实性。该协议允许一个多项式时间验证者，通过使用证明预言机并与一个不可信的证明者交互，来检查由概率电路P和Q指定的模型的近似一致性。研究结果将显式声明的近似概率一致性置于NP中，为认证概率性预测器的自我一致性提供了理论基础。