UltraLoss

PyTorch 反向传播被利用来运行图灵完备的恶意软件

研究人员发现了一种在 PyTorch 神经网络的反向传播中执行图灵完备程序的方法。通过构造一个数学上评估为零的损失函数，攻击者可以在模型的训练过程中引入任意代码执行，例如像康威生命游戏这样的细胞自动机。此漏洞利用了 IEEE 754 浮点运算与 PyTorch 自动微分引擎之间的差异，允许在不改变模型报告的损失或需要直接修改基础模型检查点的情况下嵌入恶意负载。