实体 DPOison-VL

DPOison-VL

PulseAugur coverage of DPOison-VL — every cluster mentioning DPOison-VL across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_300823 · Oct 15 · 04:00

新型攻击利用不可感知图像扰动来破坏视觉语言模型对齐

研究人员开发了DPOison-VL，一种利用视觉语言模型（VLMs）直接偏好优化（DPO）中漏洞的新型攻击方法。该攻击通过在少量训练数据上进行不可感知的图像扰动来操纵模型对齐，而其他数据组件保持不变。DPOison-VL可以在使用极少量投毒数据的情况下实现高攻击成功率，同时保持模型的通用效用和准确性，表明VLM对齐过程存在重大的安全风险。