Kaishen Wang

新研究揭示统一多模态AI模型的安全风险

一篇题为“因互惠而不安全”（Unsafe by Reciprocity）的新研究论文探讨了统一多模态模型（UMMs）的安全影响，这些模型集成了文本到图像的生成和理解能力。该研究引入了一种名为RICE（基于互惠交互的跨功能利用）的新型攻击范式，以展示这些功能之间的双向交互如何产生漏洞。研究人员发现，不安全的中间信号会传播并放大安全风险，导致UMMs固有的重大弱点。