实体
Qwen2.5VL
Qwen2.5VL
PulseAugur coverage of Qwen2.5VL — every cluster mentioning Qwen2.5VL across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
新的 C-PTQ 方法提高了多模态大语言模型的量化效率
研究人员开发了 C-PTQ，一种新颖的训练后量化方法，旨在提高多模态大语言模型（MLLMs）的效率。该技术解决了由对量化高度敏感的异常通道引起的性能下降问题。C-PTQ 利用 Fisher 加权目标，近似二阶导数，以更好地捕捉量化对特定任务损失的影响。在 Qwen2.5VL、InternVL2 和 LLaVA-OV 等模型以及多个基准测试上的实验表明，C-PTQ 在仅权重量化和权重-激活量化场景中都有效。
-
新框架应对多模态大语言模型中的灾难性遗忘问题
研究人员推出了一种名为 Curvature-Guided Mixing (CGM) 的新框架，旨在改进多模态大语言模型 (MLLM) 的适应性。该方法解决了灾难性遗忘问题，即在特定任务上进行微调会损害通用能力。CGM 利用损失景观的二阶近似，根据预训练模型和微调模型各自损失景观的曲率，分析性地确定混合它们的最佳比例。增强版 CGM$ exttt{ ext{ extdagger}}$ 通过一种新颖的曲率感知评分来指导鲁棒的参数选择。在 …