一篇新论文提出了一个框架,用于理解大型语言模型(LLM)如何展现出类似于人类认知过程的“通过思考进行学习”(LbT)机制。“认知LbT框架”识别出四个关键机制:反思性推理、合成记忆形成、内部模拟和概念自组织。该论文分析了诸如思维链提示(Chain-of-Thought prompting)和思维树搜索(Tree-of-Thoughts search)等当前方法如何在功能上近似这些机制,从而在没有新标记数据的情况下提高任务性能,例如在Super-NaturalInstructions上报告的33%的提升。然而,这些LLM的LbT过程也导致了诸如幻觉扩散和高计算成本等特征性失败,这源于与人类认知的结构不对称性。 AI
影响 提供了一种结构化的方法来分析和潜在地改进LLM的推理和学习能力。
排序理由 该项目是一篇学术论文,提出了一个理解LLM能力的新框架。[lever_c_demoted from research: ic=1 ai=1.0]
- chain-of-thought prompting
- Cognitive LbT Framework
- Conceptual Self-Organization
- Internal simulation of expected sensory experiences before movements get started.
- large-language models
- Learning by Thinking
- Reflective Reasoning
- Self-Instruct
- self-reflection
- self-taught reasoning
- Synthetic Memory Formation
- Tree of Thoughts
- Y. Wang
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →