一篇新的研究论文探讨了大型语言模型（LLM）中的对齐如何导致输出多样性降低。该研究引入了分支因子（BF）指标，用于量化生成过程中可能出现的下一个步骤的数量。研究结果表明，BF 随着生成过程的进展通常会降低，这种现象主要归因于自回归自条件化，而非对齐本身。然而，对齐调整从一开始就显著地锐化了输出分布，降低了 BF，并使模型对解码策略不那么敏感。观察到这种效应可以稳定像 DeepSeek 蒸馏版本这样的模型的思维链推理。 AI
影响 提供了一个新的指标（分支因子）来理解和控制 LLM 的输出多样性，阐明了对齐和自条件化的影响。
排序理由 一篇发表在 arXiv 上的研究论文，详细介绍了一个用于 LLM 输出多样性的新指标。 [lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
