model stealing attacks

FlowGuard防御阻止了能源系统中的AI模型窃取

研究人员开发了FlowGuard，这是一种针对能源基础设施中基于AI的入侵检测系统的无数据模型窃取攻击的新型防御方法。该方法使用流匹配来识别恶意查询，在它们到达入侵检测系统之前将其视为分布外查询。FlowGuard利用了模型窃取的合成查询比合法网络流量占据更低维流形，导致在由基于真实数据训练的连续归一化流处理时具有较低的对数似然性的原理。该防御方法在各种攻击场景下（包括分布式Sybil攻击）都表现出稳定的检测率，而无需身份信息。