PulseAugur
实时 08:20:39
English(EN) Base Models Know How to Reason, Thinking Models Learn When

新研究区分基础模型与“思考”模型

一篇新的arXiv论文提出了一种区分基础语言模型和经过进一步训练的“思考”模型的方法。该研究引入了无监督技术来识别推理行为,并重构基础模型和微调模型之间的差异。研究结果表明,强化学习主要教会模型何时使用现有的推理能力,而监督微调则安装新的能力,这为开发更有效的推理模型提供了见解。 AI

影响 提供了一个新的框架来理解不同的训练方法如何影响模型的推理能力。

排序理由 该集群包含一篇发表在arXiv上的学术论文,详细介绍了新的研究发现。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

新研究区分基础模型与“思考”模型

报道来源 [1]

  1. arXiv cs.AI TIER_1 English(EN) · Constantin Venhoff, Iv\'an Arcuschin, Philip Torr, Arthur Conmy, Neel Nanda ·

    Base Models Know How to Reason, Thinking Models Learn When

    arXiv:2510.07364v4 Announce Type: replace Abstract: What do thinking language models learn during training that their base models lack? We first present an unsupervised method that discovers a model's reasoning behaviors by training small Sparse Autoencoders on sentence-level act…