新 PRISM 框架纠正多模态大模型训练中的 SFT 缺陷

来自香港科技大学（广州）等机构的新研究揭示了多模态大语言模型（MLLMs）常见训练范式中的一个关键缺陷。监督微调（SFT）后进行强化学习（RL）的标准方法，可能会通过引入分布漂移而无意中损害模型性能，导致模型表面上模仿正确答案而非真正理解它们。这个问题在更强的模型中尤为突出，因为 SFT 可能会在 RL 开始之前就降低模型能力。提出的 PRISM 框架通过在 SFT 和 RL 之间插入一个分布对齐阶段来解决这个问题，使用一种新颖的混合专家判别器来分别纠正感知和推理错误，从而提高模型的整体性能。 AI

影响 这项研究通过解决 SFT 到 RL 流程中一个先前被忽视的缺陷，预示着多模态大模型训练将得到显著改进，有望带来更强大、更具能力的模型。

排序理由 该集群描述了一篇新研究论文，该论文提出了一个新颖的框架（PRISM），通过解决 SFT 到 RL 流程中的问题来改进多模态大模型的训练。[lever_c_demoted from research: ic=1 ai=1.0]

在 量子位 (QbitAI) 阅读 →

• DAPO
• DeepSeek
• Gemini 3 Flash
• Hong Kong University of Science and Technology (Guangzhou)
• multimodal large language models
• Nanyang Technological University
• PRISM
• Qwen
• Supervised Fine-Tuning (SFT)
• Tsinghua University
• GRPO

• 论文
• 模型发布

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →