Chain Of Thought
PulseAugur coverage of Chain Of Thought — every cluster mentioning Chain Of Thought across labs, papers, and developer communities, ranked by signal.
12 天有情绪数据
-
新的课程学习方法可将 CoT 推理高效蒸馏到更小的模型中
研究人员开发了一种新颖的三阶段课程学习框架，用于将大型语言模型的思维链（CoT）推理蒸馏到更小、更高效的模型中。该方法采用结构感知掩码和组相对策略优化（GRPO），以渐进方式增强学生模型在不过度冗长的情况下复现教师推理的能力。在 GSM8K 基准测试上的实验表明，使用此蒸馏技术的 Qwen2.5-3B-Base 在准确率提高了 11.29% 的同时，输出长度减少了 27.4%，优于现有的蒸馏方法。
-
新论文分析学习自回归思维链痕迹的样本复杂度
本文深入探讨了学习自回归思维链（CoT）痕迹的理论基础。研究人员在可实现的PAC设置中为样本复杂度设定了上限，证明其由下一个标记类的Daniely-Shalev-Shwartz（DS）维度决定。该研究引入了一个新概念——奇偶校验维度，它是DS维度的改进，在自回归展开下保持稳定，并且对于控制单包含密度至关重要。
-
新的PRPC框架通过双向纠错增强了组合式零样本学习
研究人员开发了一个名为PRPC的新框架，用于组合式零样本学习（CZSL）。该方法通过逐步推理和相互纠错来显式建模属性和对象之间的双向依赖关系，从而解决了现有方法的局限性。PRPC将CZSL构建为一种思维链（Chain-of-Thought）推理过程，使用多模态大语言模型（MLLM）生成中间决策，并采用基于GRPO目标的强化学习来提高可靠性。在三个CZSL基准上的实验表明，PRPC取得了最先进的性能。
-
新研究利用可解释性和强化学习解决自动驾驶可靠性问题
近期自动驾驶领域的研究正在探索先进技术以提高模型的可靠性和性能。一篇论文介绍了无监督字典学习，用于解释和纠正端到端驾驶模型，增强其决策逻辑。另一篇论文提出了一个使用强化学习和潜在思维蒸馏的框架，为驾驶场景创建高效且准确的视觉-语言模型，解决了幻觉和延迟问题。此外，一项调查回顾了强化学习在自动驾驶运动规划中的应用，强调了经验教训和未来挑战。其他工作则侧重于针对环境幻觉的鲁棒性基准测试、为长尾场景开发基于智能体的模拟，以及一个用于端到端驾…
-
CoLT框架教会多模态模型用潜在思维进行推理
研究人员开发了CoLT（Chain of Latent Thoughts，潜在思维链），一个旨在提高多模态大语言模型（MLLMs）在视觉推理任务中效率和效果的新框架。与依赖冗长文本标记的传统思维链（CoT）方法不同，CoLT利用潜在思维表示链，显著减少了推理时间和计算成本。该框架在训练期间采用轻量级外部解码器进行步级监督，确保了稳定且有意义的潜在推理，然后在推理时移除该解码器以实现最大效率。实验表明，CoLT的性能优于现有的潜在推理方…
-
新基准评估长文本生成中 LLM 的不确定性
研究人员推出了单答案原子长文本目标 (SALT) 基准，用于评估大型语言模型 (LLM) 在生成长文本时进行不确定性估计的能力。SALT 利用具有确定性地面真实情况的程序生成任务，无需人工判断即可进行单元级别的正确性和校准评估。使用 SALT 对 50 多个 LLM 进行的分析显示，虽然置信度排序在原子级别有所下降，但在更粗略的行级别单元中会出现可分离性。该基准还确定了两个错误驱动因素：来自损坏前缀的传播和因答案-上下文长度增加而导致…
-
新的SCOReD框架优化LLM推理轨迹以用于推荐系统
研究人员开发了一个名为SCOReD（Student-Aware CoT Optimization for Recommendation Distillation）的新框架，旨在提高在推荐系统中利用大型模型（教师）的推理轨迹来训练小型语言模型（学生）的效率和有效性。SCOReD通过将教师轨迹解析为类型化片段，并利用学生模型的注意力来评估其重要性，解决了大型教师模型推理不确定性和分布外轨迹等挑战。该框架动态选择每个片段的编辑，修剪冗余信息…
-
新的俄罗斯金融基准揭示了大型语言模型的推理差距
研究人员推出了 RusFinChain，这是一个专为评估俄语金融领域可验证思维链推理而设计的新基准。该基准包含 17 个领域中超过 5000 个参数化示例，每个示例都附带一个黄金标准推理链，用于自动验证。对八个开源大语言模型的初步评估显示，其推理能力存在显著差距，模型在步骤对齐方面的 F1 分数约为 0.65，但最终问题的正确回答率仅为 29% 左右。该研究还提出了新的指标——模糊数值对齐和软注意力对齐，与现有的评估方法相比，这些指标…
-
知识蒸馏提升紧凑型AI模型在数学推理任务上的准确性
研究人员探索了知识蒸馏技术，以提高小型AI模型在复杂推理任务上的性能。他们使用大型推理模型DeepSeek-R1，在历史数学竞赛问题上训练了一个更紧凑的Qwen2.5-7B模型。经过微调的学生模型在准确性上有了显著提高，在竞赛数据集上的准确率提高了4个百分点以上，并且在单独的基准测试中也表现出良好的泛化能力。研究还发现，模型响应的长度与数学推理中的答案质量直接相关，响应越短，准确率越低。
-
LLM思维链提示的有效性与内容相关，而非长度
一篇新的研究论文调查了大型语言模型中冗长思维链（CoT）提示的有效性。研究表明，CoT中的语义内容和推理步骤，而非单纯的长度，是提高准确性的主要驱动因素。对25个模型的实验表明，当推理计划保持不变时，额外的token对准确性的影响很小，而受控的干预表明，虽然冗长可以带来适度的收益，但这取决于散文和推理内容的质量，而不仅仅是token数量。
-
Least-to-Most Prompting 通过顺序分解增强 LLM 的问题解决能力
Least-to-Most Prompting 是一种旨在提高大型语言模型处理复杂、多步问题能力的技术。该方法包含两个主要阶段：首先，指示模型将问题分解为更小、有序的子问题；其次，按顺序解决这些子问题，将每个步骤的输出作为下一步的输入。这种方法对于中间结果至关重要的组合任务特别有效，它通过明确构建解决问题的过程，为诸如 Chain-of-Thought prompting 等方法提供了一种替代方案。
-
新框架VeryTrace验证和修复LLM推理痕迹
研究人员开发了VeryTrace，一个旨在验证和修复大型语言模型（LLM）生成的推理痕迹的新框架。该系统使用领域特定语言（DSL）将自然语言推理形式化为结构化、可编译的格式。DSL明确定义了步骤依赖关系，将定量数据视为可执行表达式，并构建了语义推理。VeryTrace结合了确定性检查和LLM审计，以查明和修复错误，在数学、机器人学和亲属关系推理等各种领域提高了准确性，而无需领域特定的训练。
-
AI链式思考蒸馏：压缩策略分析
一篇新的研究论文分析了链式思考（CoT）蒸馏，这是一种将大型AI模型的多步推理转移到小型模型中的方法。该研究确定了CoT压缩的三个关键维度：重要性标准、重构级别和压缩预算。研究结果表明，压缩策略的有效性高度依赖于领域和所用重要性标准的粒度。值得注意的是，激进的重写可以通过充当去噪器来使通用任务受益，而数学任务则会因结构破坏而退化。研究还强调，训练时压缩并不总是能保证推理时的节省，因为学生模型可能会保留冗长的习惯。
-
AI 通过新框架和技术推动医学图像分割发展 · 跟踪 8 个来源
研究人员正在开发先进的医学图像分割 AI 框架，重点是提高准确性和效率。Hi-Seg 通过人机协作增强了用于肺结节分割的 Segment Anything Model (SAM)，实现了高 Dice 分数并缩短了标注时间。PU-UNet 引入了稳定的乘法交互用于医学图像分割，在保持效率的同时提高了 Dice 和 IoU 分数。CSWinUNETR 使用交叉条纹自注意力机制和多尺度模块来处理薄的解剖结构，性能优于现有方法。此外，SegD…
-
新基准FineDialFact旨在实现细粒度对话事实核查
研究人员推出了FineDialFact，这是一个专为对话系统中细粒度事实核查设计的新基准。该基准通过关注对话回复中单个原子事实的核查，解决了现有方法使用粗粒度标签的局限性。该数据集构建自公开可用的对话数据，并使用基线方法进行了评估，结果表明思维链（Chain-of-Thought）推理可以提高性能。然而，达到的最佳F1分数仅为0.74，表明对话事实核查仍然是未来研究的一个挑战性领域。
-
LLM 模拟学生 Java 错误，Claude Sonnet 4 表现均衡
一篇新研究论文探讨了使用大型语言模型 (LLM) 来模拟学生在 Java 编程中的错误。该研究在包含超过 74,000 份学生提交代码的 CodeWorkout 数据集上，使用了不同的提示策略评估了五个 LLM。结果表明，虽然 LLM 可以生成各种错误，但 Claude Sonnet 4 在与真实学生错误的一致性方面表现出最均衡的性能。专家注释证实，生成的合成错误在功能上与真实学生错误无法区分。
-
新框架利用蒸馏的多模态大语言模型增强社交智能推理
研究人员开发了一个名为MODF-SIR的新框架，该框架利用轻量级的多模态大语言模型（MLLM）进行社交智能推理。该框架通过知识蒸馏来增强训练和推理，专注于多模态社交智能数据的精确本地化。它还结合了测试时自适应（TTA）和低秩自适应（LoRA）技术，以改进实例级推理并有效处理长尾事件。
-
AI代理利用ReAct范式实现自主任务执行
AI代理正成为大型语言模型的主导应用范式，从简单的聊天机器人发展到能够自主感知、推理和行动。这些代理利用思考、行动和观察的循环，通常基于ReAct范式，与外部工具交互并自我纠正。这使得它们能够执行多步任务、访问信息并适应反馈，克服了早期推理方法的局限性。
-
AGI 争论：原生记忆推理 vs. 思维链（CoT）脚手架
该讨论探讨了先进人工智能，特别是通用人工智能（AGI），是否可能需要从当前的思维链（CoT）推理方法转向更原生记忆的方法。这种观点认为，CoT 特有的可见思维痕迹可能只是一个脚手架，而非推理的最终形式。这意味着真正的 AGI 可能会依赖于内部的、基于记忆的过程，而这些过程不会被明确地表述为逐步的痕迹。
-
Google DeepMind 发布适用于笔记本电脑的 Gemma 4 12B 多模态模型
Google DeepMind 发布了 Gemma 4 12B，这是一款专为在具有 16GB VRAM 的笔记本电脑上本地运行而设计的新型多模态模型。该模型采用新颖的统一架构，将音频和视觉输入直接集成到 LLM 主干中，无需单独的编码器，从而降低了延迟和内存使用量。Gemma 4 12B 旨在将先进的代理多模态能力带到日常硬件上，其性能接近其较大的 26B MoE 版本，并通过开放许可和与流行工具的集成获得广泛的开发者支持。