Qwen2.5-VL-3B
PulseAugur coverage of Qwen2.5-VL-3B — every cluster mentioning Qwen2.5-VL-3B across labs, papers, and developer communities, ranked by signal.
3 天有情绪数据
-
新框架支持多模态大语言模型中的选择性属性遗忘
研究人员推出了一种名为因果定位和保留感知投影（CLRP）的新框架，用于多模态大语言模型（MLLMs）的属性级别遗忘。该方法旨在选择性地从MLLMs中移除敏感属性，同时不损害整体模型效用或影响同一身份的其他信息。CLRP是一种无需训练的方法，它识别因果定位的关键层，并投影中间表示以实现这种选择性遗忘。在LLaVA-1.5-7B和Qwen2.5-VL-3B等模型上的实验证明了CLRP在减少残留泄露和附带退化方面的有效性。
-
LiquidAI 发布 d1-3B 决策模型，非聊天机器人
LiquidAI 发布了其 d1-3B 模型，这是一个拥有30亿参数的视觉模型，专为决策任务设计，而非文本生成。与典型的语言大模型不同，d1-3B 处理文本、JSON 和图像，以回答预定义的问题，输出形式为“是/否”或评分，产生零输出 token。虽然它在某些决策基准测试中表现出色，但在视觉推理和网页截图解释方面的性能不如其前代产品。
-
医学 VLM 审计揭示准确性与视觉效用之间的差距
一篇新发表在 arXiv 上的研究论文详细介绍了一项对医学视觉语言模型（VLMs）及其训练后评估方法的受控审计。该研究聚焦于 Qwen2.5-VL-3B 模型，并比较了不同的训练后技术，包括监督微调（SFT）和低秩适配（LoRA），以及诸如 Group Relative Policy Optimization（GRPO）等标准方法。研究结果表明，尽管准确性指标可能有所提高，但某些训练后方法可能会无意中降低视觉受益事件和图像敏感性，这表…
-
新的ReDraft方法通过修订模型失败来改进LLM的后续训练
研究人员开发了一种名为ReDraft的新方法，用于持续对大型多模态模型进行后续训练。该技术旨在在不牺牲现有能力的情况下增强新能力，这是模型训练中的一个常见挑战。ReDraft通过使用模型自身错误的输出来作为修订的基础，并以专家响应作为参考来实现这一点。然后，模型会优化其输出，并且只有被接受的修订才用于微调，从而在最小化遗忘先前知识的同时提高新任务的性能。
-
自动驾驶转向统一的 VLA 模型，挑战模块化堆栈
新的视觉-语言-动作 (VLA) 模型正在涌现，旨在统一自动驾驶中的感知、推理和控制，从而摆脱传统的模块化堆栈。三个 prominent 模型——来自 UCLA 的 AutoVLA、NVIDIA 的 Alpamayo 系列和 Qwen-Drive-1.0——代表了这种统一的不同方法。AutoVLA 专为边缘部署而设计，具有较少的参数量和基于 token 的动作输出，而 Alpamayo 则是一个较大的、云规模的教师模型，用于蒸馏成较小…
-
新的ExBind基准测试AI的视觉到可执行映射准确性
研究人员推出ExBind，一个旨在评估多模态AI模型视觉到可执行对应能力的新诊断基准。该基准专门关注模型必须将视觉或语义参考准确映射到正确可执行对象的层面，将其与更广泛的语义定位或动作执行区分开来。ExBind包含广泛和有针对性的案例套件，其中Qwen2.5-VL-3B在候选有效性方面表现出色，但精确准确性较低，而Qwen3-VL-4B在两项指标上均展现出近乎完美 M 的性能。
-
直接答案SFT在医疗VQA任务中最具鲁棒性
研究人员发现，一种更简单的方法，即直接答案监督微调（SFT），是MedFrameQA基准上多帧医学视觉问答（VQA）最鲁棒的方法。该方法应用于MedGemma-1.5-4B等模型，显著提高了相对于冻结基线的准确性，并在各种评估控制下表现出稳定性。研究结果表明，为了在医学VQA任务中取得更好的性能，应将重点从复杂的辅助机制转移到与目标对齐的优化。
-
ChronoStitch 方法在无需重新训练的情况下改进了长视频时序推理
研究人员开发了 ChronoStitch，这是一种新颖的、无需训练的方法，旨在改进长时序视频中的时序推理。该技术解决了组合视频片段中独立缓存的视觉键值（KV）记忆的挑战，这些记忆通常会遭受时间相位冲突和全局顺序丢失。ChronoStitch 将存储的键重新定位到全局多模态坐标系中，并选择性地重新计算一小部分 token 来弥合内容差距。在 Qwen2.5-VL-3B 和 TempCompass 上进行测试，ChronoStitch 证…
-
Trace环境提升视觉语言模型推理性能
研究人员开发了Trace，一个旨在提高语言模型视觉推理能力的新环境。该环境利用场景语法和可执行任务程序生成跨越11个领域的1000个不同的视觉推理任务，以创建可验证和可复现的训练数据。当应用于Qwen2.5-VL模型时，在Trace实例上进行训练带来了显著的性能提升，其中Qwen2.5-VL-7B在24个基准测试的宏平均性能上提高了4.06个百分点。
-
AI模型难以处理梵文OCR，新基准测试揭示
一项新的基准研究评估了十种OCR系统的性能，包括专门的OCR-VLMs和前沿的多模态LLMs，在梵文上的表现。研究发现，虽然许多系统在干净的合成文本上表现良好，但在退化条件和真实世界扫描上的性能会显著下降。专门的OCR-VLMs尤其脆弱，DeepSeek-OCR出现了灾难性的重复失败。值得注意的是，在英语OCR上的强劲表现与在印度语言脚本上的表现并不相关，GPT-5.5等模型出现了大幅下降。
-
Gemma 4 E2B 在工业边缘 AI 模型测试中领先于更快的竞争对手
最近在 Jetson 设备上对五个小型多模态模型进行的工业边缘 AI 运行时测试发现，尽管 Gemma 4 E2B 不是最快的，但它仍然是基准模型。SmolVLM2 是最快的，但其输出过于泛泛。Qwen2.5-VL 表现强劲，尤其是在 OCR 和视觉检查任务中，使其成为一个有力的竞争者。InternVL3 在较高设置下存在上下文错误和延迟问题，而 Qwen2.5-Omni 更适合未来的音频/视频工作流。选择标准强调本地部署、结构化输出…
-
MERIT管道实现去中心化LLM指令调优
研究人员开发了MERIT，一种新颖的去中心化指令调优管道，旨在克服大型语言模型中的梯度干扰和同步瓶颈。该方法包括估计数据集级别的梯度冲突，沿着这些冲突轴划分模型混合体，然后独立微调每个分区，最后进行一次合并步骤。MERIT在多模态和纯文本任务上展示了改进的性能，其效果与集中式训练相当或更优，同时通信开销显著降低。
-
新框架 SaFeR-Steer 提升了多轮对话中 LLM 的安全性
研究人员推出了一种新颖的框架 SaFeR-Steer，旨在提高多轮大型语言模型（LLMs）的安全性和有用性。这种渐进式对齐方法利用合成引导和导师参与的强化学习技术，在自适应攻击下训练模型，解决了单轮训练数据与真实多轮部署之间的不匹配问题。该框架还包含一个轨迹一致的总结性奖励（TCSR），以惩罚对话中的任何低质量回合。实验表明，当应用于 Qwen2.5-VL 模型时，在各种基准测试中，安全性和有用性均得到显著改善。
-
新框架提升多模态大语言模型调优效率
研究人员推出了两个新框架，以改进大语言模型的多模态指令调优。SAME框架通过稳定专家选择和规范专家更新来解决持续学习中的“路由器漂移”和“专家漂移”问题。同时，OFA框架提供了一种可重用的数据选择方法，只需训练一次选择器即可将其应用于各种数据集和模型，通过仅选择一小部分数据即可显著提高训练效率，同时保持高性能。此外，Prism基础设施提供了一个插件系统，以简化多模态持续指令调优的研发，将算法开发与基础模型实现分离，以增强代码重用和公平比较。
-
苹果研究人员用新的RL框架平衡图像字幕生成
苹果研究人员开发了BalCapRL，一个用于基于强化学习的多模态大语言模型图像字幕生成的新框架。该方法旨在平衡字幕质量的多个维度，包括正确性、参考覆盖率和语言流畅性，而这些维度在现有方法中常常被牺牲。BalCapRL利用奖励解耦归一化和长度条件奖励掩码来优化这些目标，在LLaVA和Qwen等各种基础模型上显示出显著的改进。
-
AI 研究探索分层推理、反事实和高效训练方法 · 已追踪 10 个来源
几篇最新的研究论文探讨了 AI 推理和模型训练方面的先进技术。“Concept Flow Models” 引入了一种分层方法来提高基于概念的推理的可解释性，并减少信息泄露。“DeepSWIP” 为神经概率逻辑程序提出了一个反事实推理框架，增强了因果语义。“Vero” 提供了一个用于通用视觉推理的开放强化学习配方，旨在实现可复现性和可扩展性。此外，对“Reinforcement-aware Knowledge Distillation”…