Temperature Scaling Attack

新的温度缩放攻击针对联邦学习中的模型置信度

研究人员开发了一种名为温度缩放攻击（TSA）的新型训练时攻击，专门针对联邦学习系统中模型的置信度校准。这种攻击会降低模型准确表示自身不确定性的能力，同时保持高预测准确性。TSA通过在本地训练期间注入学习率-温度耦合的温度缩放来实现，它可以在不显著改变准确性或优化信号的情况下转移模型置信度。该攻击在CIFAR-100等基准测试中显示出校准错误的大幅增加，并在医疗保健和自动驾驶等关键应用中显示出严重故障的潜力。