研究人员开发了Video-MemComp,一个旨在增强处理流媒体视频数据的多模态大语言模型(MLLMs)内存管理的新框架。这种无需训练的方法使用泰勒展开来区分近似误差和层敏感度,从而实现动态KV缓存分配。通过优先处理高敏感度层并在预RoPE安全区域聚合token,Video-MemComp在保持MLVU、VideoMME和EgoSchema等基准测试性能的同时,显著降低了内存使用量。 AI
影响 优化处理视频的LLMs的内存使用,可能实现更高效的实时分析并降低计算成本。
排序理由 详细介绍MLLMs内存管理新方法的论文。[lever_c_demoted from research: ic=1 ai=1.0]
- arXiv
- EgoSchema
- Hugging Face
- KV cache
- MLLMs
- MLVU
- Qwen2.5-VL-3B
- RoPE
- Taylor Expansion
- Video-MemComp
- VideoMME
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →