实体
visual token pruning
visual token pruning
PulseAugur coverage of visual token pruning — every cluster mentioning visual token pruning across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 3
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 3 条
-
视觉语言模型：规模、安全性和效率的探索
近期研究探讨了视觉语言模型（VLM）的复杂性，重点关注它们如何处理视觉和文本信息以及它们的局限性所在。研究调查了模型大小与视觉输入分辨率之间的权衡，医疗诊断应用中失败的因果机制，以及模态差距的几何特性。进一步的研究检查了VLM的注意力机制如何与人类注视对齐，并开发了高效的token剪枝方法以降低计算成本。此外，正在创建新的数据集和基准，以提高VLM在电路布局分析等专业领域的性能，并审计它们对字体图层的理解。
-
新的TRACE框架通过视觉标记修剪提高GUI代理效率
研究人员开发了TRACE，一个旨在提高GUI代理效率的新框架。TRACE解决了由代理轨迹中的高分辨率屏幕截图引起的延迟和内存使用增加的挑战。它采用一种无需训练的方法，根据交互先验、指令相关性和特征新颖性来优先考虑视觉证据。这种方法确保保留的视觉信息可重用，并保持空间覆盖范围而无需重新编码，最终降低了各种GUI基准测试的计算成本。
-
新方法剪枝视觉令牌以实现高效MLLM推理 · 跟踪4个来源
研究人员开发了多种新方法来高效剪枝多模态大语言模型（MLLM）的视觉令牌，旨在降低推理成本和延迟。LAST框架利用最后一个查询令牌的注意力来指导剪枝，无需访问云端模型，即可在将令牌数量减少87.5%的同时保留94.5%的准确率。SFPruner将剪枝重新构建为单次前向传播，将Qwen2.5-VL的令牌选择时间从112.4毫秒显著缩短至2.5毫秒。SPARE是另一种方法，将剪枝视为子空间重建，通过最小化重建误差并纳入“反相关性”标准，在…