PulseAugur
中
实时 17:56:51
English(EN) Between Safe Boundaries: Exploiting Temporal Consistency for Jailbreaking Text-To-Video Generation Models

新的越狱框架利用文本到视频模型中的时间一致性

作者 PulseAugur 编辑部 · [1 个来源] ·

研究人员开发了一个名为BSB的新框架，利用文本到视频（T2V）模型中的时间一致性进行越狱。该方法将有害意图编码为安全边界状态之间的转换，然后对这些状态进行插值以生成不安全的中介帧。BSB在文本代理空间中使用蒙特卡洛树搜索，并通过稀疏视频评估进行校准，以在黑盒场景中有效地发现漏洞。在Veo 3.1和Sora 2等模型上的实验表明，BSB在攻击成功率方面比现有越狱方法平均提高了18.6%，表现更优。 AI

影响 这项研究揭示了T2V模型的一种新的攻击向量，可能影响安全措施和内容审核工作。

排序理由 学术论文，详细介绍了一种新的文本到视频模型越狱方法。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

新的越狱框架利用文本到视频模型中的时间一致性

报道来源 [1]

  1. arXiv cs.AI TIER_1 English(EN) · Xingkai Peng, Jun Jiang, Jiayang Liu, Kejiang Chen, Weiming Zhang ·

    在安全边界之间：利用时间一致性破解文本到视频生成模型

    arXiv:2607.17279v1 Announce Type: cross Abstract: Recently, text-to-video (T2V) models have been widely deployed, sparking growing concerns over their robustness against jailbreak attacks. Existing jailbreak methods, mostly adapted from text-to-image attacks, suffer notable drawb…

相关实体

相关话题