Overflip

新发现的“Overflip”漏洞存在于 AI 保护模型中

研究人员发现了一种新的保护模型漏洞，称为“Overflip”，其中重复的提示会导致这些安全分类器将恶意输入错误地标记为良性。这种不稳定性在九个测试过的轻量级保护模型中的五个中观察到，当输入序列的长度超过典型的训练上下文时就会发生。Overflip 现象与传统的注意力稀释攻击不同，因为它在破坏模型注意力机制的同时保留了恶意内容，对 LLM 服务构成了重大威胁。