PulseAugur
中
实时 10:19:39
实体 token-probability attack

token-probability attack

PulseAugur coverage of token-probability attack — every cluster mentioning token-probability attack across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_191299 ·

    新型攻击揭示视觉-语言模型置信度并非稳健

    研究人员开发了新的方法来攻击视觉-语言模型的置信度分数，证明这些分数本身并非稳健。研究发现，包括仅图像扰动和隐藏状态干预在内的各种攻击，可以在不改变生成答案的情况下操纵置信度读数。这些攻击显著降低了置信度门控系统的准确性，有时甚至低于没有置信度门控的基线。研究结果表明，已部署系统中当前的置信度机制对完整性问题敏感，而不是内在稳健。