Lilith

新的“Lilith”框架实现了机器学习模型的后门泛化

研究人员推出了一种名为Lilith的新框架，旨在解决机器学习模型的后门泛化问题。该框架专注于植入恶意行为，这些行为可以泛化到训练期间未见过的推理时触发器，这是现有后门研究在很大程度上忽略的一个漏洞。Lilith首先使用单个训练锚点创建一个紧凑的漏洞，然后构建一个保持表示几何的仅推理触发器族。实验表明，Lilith在实现高攻击成功率的同时，模型效用下降很小，触发器泛化差距也很小。