PulseAugur
实时 09:30:47
实体 AnyRes

AnyRes

PulseAugur coverage of AnyRes — every cluster mentioning AnyRes across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_254875 ·

    StepPrune方法通过自适应选择视觉标记来加速多模态大语言模型推理

    研究人员开发了一种新颖的StepPrune方法,用于在多模态大语言模型(MLLMs)中自适应地选择视觉标记以加速推理。与之前独立处理标记的Top-K方法不同,StepPrune根据先前选择的标记和文本上下文来顺序选择标记,动态确定要保留的标记数量。该方法在LLaVA-1.5上已显示出显著的性能保留,实现了94.6%的完整前缀归一化性能,同时删除了88.9%的视觉标记。该方法还实现了1.50倍的预填充速度提升,将延迟从59.95毫秒降低…