Weight-Data Mutual Information

研究：信息移除不足以保证开放权重模型的抗篡改性

一篇新发表在arXiv上的研究论文质疑了移除信息内容作为认证开放权重模型抗篡改性方法的有效性。研究表明，互信息本身不足以进行通用认证，因为保持函数不变的重参数化可以在不改变信息内容的情况下改变梯度下降的几何形状。研究强调，训练顺序会影响恢复时间，并且表示层级的独立性可以保留参数雅可比矩阵。一个明确的构造表明，零信息量仍然会导致快速恢复，这表明认证需要对攻击动态施加比初始互信息更严格的约束。