研究人员发现，大型语言模型（LLM）可以在没有明确的思维链推理的情况下，在内部执行扩展计算。这表明模型可能在其隐藏状态中形成隐式离散状态表示（IDSR），以进行符号计算。研究发现，虽然这些表示用于内部计算，但在当前的开源模型中它们并非完美无损，会导致最终输出出现错误。这项研究初步探索了 LLM 的符号计算能力和底层机制。 AI
影响 表明未来 LLM 在内部推理和计算能力方面有改进的潜力。
排序理由 详细介绍 LLM 中涌现能力的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
