$\varphi$

AI可解释性挑战：有限的实验可能无法揭示真实机制

一篇新的研究论文探讨了有限实验在理解人工智能系统内部机制方面的局限性，特别是关注整合信息理论（$\varphi$）。研究表明，相同的输入-输出行为可能源于根本不同的内部机制，而部分或有噪声的实验访问可能会施加精度下限，使得无论样本量如何都无法区分这些机制。研究还强调了$\varphi$对机制微小变化的敏感性，并提出可测量性是一个具有可计算答案的设计问题。