实体 VLZip

VLZip

PulseAugur coverage of VLZip — every cluster mentioning VLZip across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_194028 · Aug 11 · 04:00

VLZip框架将多模态AI的上下文长度提升至200万token

研究人员推出VLZip，一个新颖的框架，旨在提高视觉语言模型（VLM）在处理长而交错的图像和文本序列时的效率。与之前的方法（要么修剪token，要么使用不太精确的架构）不同，VLZip采用分层蒸馏过程，将视觉和文本片段压缩成紧凑的“软前缀”。然后将这些前缀集成到每个解码器层中，显著降低了自注意力的计算负担，同时保留了全局上下文。为了更好地评估这些模型，该团队还开发了LongVLBench，一个专注于从视频内容进行叙事级推理的新基准。实…