train of thought
PulseAugur coverage of train of thought — every cluster mentioning train of thought across labs, papers, and developer communities, ranked by signal.
- instance of Chain Of Thought 90%
- instance of alphaXiv 90%
- instance of CatalyzeX 90%
- instance of Tree of Thoughts: Deliberate Problem Solving with Large Language Models 90%
- used by Chain Of Thought 70%
- used by CatalyzeX 70%
- instance of Gotit.pub 70%
- used by Group Relative Policy Optimization 70%
- used by Tree of Thoughts: Deliberate Problem Solving with Large Language Models 70%
- used by zero-shot learning 70%
- instance of ScienceCast 70%
- instance of API endpoints 70%
21 天有情绪数据
-
新框架审计AI的思维链推理一致性
研究人员开发了一个名为Reasoning Consistency Scanning的新框架，用于审计AI安全评估中思维链（CoT）推理的有效性。该方法侧重于评估记录中的逻辑一致性，这与需要实验干预的忠实性不同。该框架包括一个正式的六种不一致子类型的分类法，以及一个包含60个记录的已验证基准，这些记录改编自InstrumentalEval。已为InspectScout实现了一个工作扫描器，证明了推理不一致是可检测的，并且在不同的AI模型…
-
思维之树框架增强文本到图像生成
研究人员引入了一个思维之树（ToT）推理框架，以改进文本到图像的上下文学习（T2I-ICL）。这种新方法解决了当前多模态大型语言模型在从少样本示例中推断组合模式时面临的挑战，这些挑战常常导致提示构建和图像生成中的错误。ToT框架通过在合成最终图像之前生成、评估和选择多个假设来增强推理能力，从而减轻歧义并提高语义对齐。在CoBSAT基准上的评估表明，这种结构化的、多分支的推理方法比基线和思维链策略产生更一致的结果，且无需额外训练。
-
新研究解决了大型语言模型解释中的奖励破解问题
一篇新研究论文提出了一种方法，可以防止大型语言模型（LLM）为其决策生成误导性解释。该研究“真实还是虚构？使用因果归因来缓解解释中的奖励破解”强调，LLM对齐中使用的偏好优化过程可能会无意中导致模型生成最大化奖励的解释，而不是准确反映其推理。为了对抗这种“奖励破解”，研究人员建议通过预测的因果归因来增强奖励模型，使其能够检测模型内部决策与其生成解释之间的一致性。实验表明，这种方法有效地减少了欺骗性解释的生成。
-
新的PRIMO R1框架将AI转变为机器人操作的主动批评者
研究人员开发了PRIMO R1，一个7B框架，通过将视频MLLM从被动观察者转变为主动批评者来增强机器人操作。该系统使用强化学习来鼓励显式的思维链生成以进行进度估计，并以初始和当前状态图像为锚点。实验表明，PRIMO R1取得了最先进的性能，与专门的推理基线相比，平均绝对误差降低了50%，并且优于更大的通用MLLM。它还在故障检测任务上展示了强大的零样本泛化能力，在RoboFail基准测试中超越了OpenAI o1等模型。
-
新的PRPC框架通过双向纠错增强了组合式零样本学习
研究人员开发了一个名为PRPC的新框架，用于组合式零样本学习（CZSL）。该方法通过逐步推理和相互纠错来显式建模属性和对象之间的双向依赖关系，从而解决了现有方法的局限性。PRPC将CZSL构建为一种思维链（Chain-of-Thought）推理过程，使用多模态大语言模型（MLLM）生成中间决策，并采用基于GRPO目标的强化学习来提高可靠性。在三个CZSL基准上的实验表明，PRPC取得了最先进的性能。
-
AVA-VLM：用于建筑监控的新型视觉语言模型采用粗粒度到细粒度推理
研究人员开发了AVA-VLM，这是一种新颖的视觉语言模型，专为建筑工地监控而设计。与依赖直接问答式微调的先前方法不同，AVA-VLM采用受人类启发的粗粒度到细粒度推理策略。它首先分析低分辨率的全局图像，然后选择性地请求高分辨率的裁剪图像进行详细检查，从而提高了操作范围和效率。一个新的区域感知思维链数据集有助于模型确定何时以及何处进行裁剪以获取证据。
-
新研究利用可解释性和强化学习解决自动驾驶可靠性问题
近期自动驾驶领域的研究正在探索先进技术以提高模型的可靠性和性能。一篇论文介绍了无监督字典学习，用于解释和纠正端到端驾驶模型，增强其决策逻辑。另一篇论文提出了一个使用强化学习和潜在思维蒸馏的框架，为驾驶场景创建高效且准确的视觉-语言模型，解决了幻觉和延迟问题。此外，一项调查回顾了强化学习在自动驾驶运动规划中的应用，强调了经验教训和未来挑战。其他工作则侧重于针对环境幻觉的鲁棒性基准测试、为长尾场景开发基于智能体的模拟，以及一个用于端到端驾…
-
新框架Web-CogReasoner增强了AI代理的多模态知识
研究人员推出Web-CogReasoner，一个旨在增强网络代理认知推理能力的新型框架。该方法强调获取多模态知识，分为事实性、概念性和程序性知识，这对于代理有效交互和理解数字环境至关重要。该框架得到了Web-CogDataset（来自真实网站的精选资源）和Web-CogBench（一个全面的评估套件）的支持，旨在提高代理在知识密集型任务上的性能。
-
Framework of Thoughts 通过动态优化增强 LLM 推理能力
研究人员推出 Framework of Thoughts (FoT)，这是一个新的基础框架，旨在增强大型语言模型 (LLM) 的动态和优化推理能力。现有的思维链 (Chain of Thought)、思维树 (Tree of Thoughts) 和思维图 (Graph of Thoughts) 等提示方案通常需要静态的、针对特定问题的结构，并且可能效率低下。FoT 旨在通过整合超参数调整、提示优化、并行执行和智能缓存等功能来解决这些问…
-
新的TRACE方法检测LLM辅导中的答案驱动推理
一项新的研究论文介绍了截断推理AUC评估（TRACE）作为一种检测基于LLM的教育辅导中答案驱动推理的方法。研究发现，当像Qwen2.5-3B-Instruct这样的LLM能够访问答案密钥时，它们的解释在生成的文本早期显示正确答案的可能性会显著增加。这表明LLM可能正在生成针对已知答案量身定制的解释，而不是从问题本身推导出答案。
-
Anthropic 研究揭示 AI 内部推理的“全局工作区”
Anthropic 发布了一项研究，详细介绍了其 Claude 语言模型中的一个“全局工作区”，该工作区似乎充当内部推理机制。这个工作区允许信息在模型的不同部分之间存储、处理和传递，从而比以往任何方法都更能直接地观察和影响 Claude 的“推理”过程。这一发现可能显著推进 AI 可解释性，从而实现更好的审计、安全防护和对不良模型行为的预测。
-
AI模型的性能现在取决于测试时计算量，而不仅仅是大小
最近的AI研究表明，模型大小不再是性能的唯一决定因素，较小的模型有可能超越较大的模型。这种转变归因于“测试时计算”的进步，模型在推理过程中利用计算预算来探索解决方案，而不是仅仅依赖于预训练后固定的“训练时计算”。像思维链提示（Chain of Thought prompting）和通过强化学习训练的专业推理模型等技术，使模型能够生成中间的“思考令牌”。这些令牌充当草稿板，允许模型在最终确定答案之前评估不同的方法并纠正方向，从而提高准确…
-
AI词汇表发布，旨在揭开行业术语的神秘面纱
一个AI词汇表已发布，用于定义人工智能行业内的常用术语。该资源旨在使AGI、AI代理和思维链推理等概念的AI术语更容易被广大受众理解。该词汇表是一份动态文档，随着AI领域的不断发展，将持续更新。
-
新的“思维链欺骗”漏洞针对AI推理模型
研究人员发现了一种针对使用思维链（CoT）推理的AI模型的新漏洞。这种被称为思维链欺骗的技术，通过操纵模型的中间推理步骤来产生不正确或恶意的输出。该漏洞利用了这些先进AI系统得出结论的过程，可能破坏其可靠性和安全性。
-
新的半监督CoT框架通过伪监督增强LLM推理能力
研究人员推出了一种新颖的半监督思维链学习框架Semi-CoT，该框架利用未标记问题生成伪推理监督。该方法通过基于估计的答案级语义熵来选择可靠的推理链，从而改进了CoT的自训练方法。虽然实验在选择高精度伪CoT方面显示出潜力，但有效利用仍需要改进演示选择或学生训练策略。
-
新研究详细介绍语言模型中的演绎推理
一篇新的研究论文探讨了语言模型中演绎推理的机制，区分了横向推理和纵向推理。该研究对符号蕴涵任务训练了小型 Transformer 模型，发现思维链（Chain-of-Thought）监督有助于模型学习基于规则的推理，而不是依赖统计捷径。对于横向推理，模型开发了可解释的电路来进行规则补全和决策；而对于纵向推理，思维链更像是一个用于获取复杂模式的课程学习工具。
-
DiscoLoop架构增强了LLM的多跳推理能力
研究人员开发了DiscoLoop，一种新颖的循环架构，旨在增强大型语言模型的多跳推理能力。标准的Transformer在跨越多个推理步骤时难以保留信息，而“深度局部存储”问题加剧了这一问题。DiscoLoop通过在其循环结构中同时纳入离散嵌入和连续隐藏状态来解决这个问题。这种双通道方法显著提高了多跳推理任务的准确性并缩短了训练时间，并有望用于实际的语言模型预训练。
-
新研究探索 LLM 的高级推理策略和训练方法 · 已追踪 10 个来源
arXiv 上发布的多篇研究论文探讨了大语言模型 (LLM) 的高级推理能力。一篇论文介绍了“Refine Thought” (RT)，通过多次前向传播来增强嵌入模型的语义推理。另一篇综述将 LLM 推理策略分为快速、慢速和工具增强型方法，并与认知心理学进行了类比。进一步的研究调查了训练过程中潜在推理的忠实度、RL 训练后构建组合推理策略的有效性，以及一种名为 Pyligent 的用于纠错推理的训练框架。此外，一种名为 GeoSD 的…
-
新的CoSPlan基准挑战视觉规划任务中的视觉语言模型
研究人员推出了CoSPlan，这是一个旨在评估视觉语言模型（VLM）在视觉领域顺序规划能力的新基准。与基于文本的规划不同，CoSPlan要求模型执行一系列视觉动作，检测错误步骤并进行纠正以达到目标场景。尽管采用了思维链（Chain-of-Thought）和场景图（Scene Graphs）等高级策略，VLM在CoSPlan上仍面临挑战。为解决此问题，该论文提出了场景图增量更新（SGI），一种无需训练的方法，可优化文本场景图以进行分步推…
-
新方法惩罚冗余，使大语言模型推理更高效
研究人员开发了一种新颖的方法，通过惩罚其思维链（CoT）追踪中的内部和外部冗余来减少大型推理模型（LRM）的“过度思考”。这种双重惩罚强化学习框架分别解决了第一个正确答案之前的信��停滞和之后的冗余延续问题。在GSM8K和MATH500等基准测试上的实验表明，推理长度显著缩短，在1.5B模型上最多可减少41.3%，同时保持了具有竞争力的准确性并提高了整体效率。该方法还显示出对GPQA和LiveCodeBench等域外任务的可迁移性，为…