Forced Deferral Attack

新的“强制推迟攻击”针对多模态大语言模型级联

研究人员发现了一种针对多模态大语言模型（MLLM）级联的新漏洞，称为强制推迟攻击（FDA）。该攻击操纵弱模型的置信度分数，导致级联持续将查询路由到计算成本更高的强模型。FDA 利用通用的边界触发器来实现这一点，其性能优于现有的对抗性图像和提示注入方法。研究结果揭示了 MLLM 级联中一个新的攻击面，可能导致计算使用量在不直接影响答案准确性的情况下意外增加。