研究人员开发了一种名为FLAT的新方法，以更好地检测水平联邦学习（HFL）模型中隐藏的后门故障。传统审计通常使用简化的指标，这些指标可能会掩盖一个关键漏洞，即单个目标标签会被多种触发器变体激活。FLAT通过充当潜在条件可靠性压力测试来解决此问题，从而能够更细致地评估模型行为在不同目标、触发器实现和防御措施下的变化。在CIFAR-10、CIFAR-100和Tiny-ImageNet上的实验表明，FLAT在保持模型干净效用的同时实现了高攻击成功率，并揭示了一些服务器端防御措施可以抑制一个目标模式而使其他模式保持活跃。 AI
影响 这项研究为联邦学习引入了一种更鲁棒的审计方法，有可能提高在分布式环境中部署的AI模型的安全性和可靠性。
排序理由 该集群包含一篇详细介绍AI模型审计新方法的 ist 研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
