Tree of Thoughts: Deliberate Problem Solving with Large Language Models
PulseAugur coverage of Tree of Thoughts: Deliberate Problem Solving with Large Language Models — every cluster mentioning Tree of Thoughts: Deliberate Problem Solving with Large Language Models across labs, papers, and developer communities, ranked by signal.
7 天有情绪数据
-
新HiPO方法通过分割训练反馈来增强LLM推理能力
研究人员推出了一种名为HiPO（Hierarchical Preference Optimization，分层偏好优化）的新方法，旨在提高大型语言模型（LLM）的推理能力。与将整个响应视为单一单元的标准直接偏好优化（DPO）不同，HiPO将响应分割成不同的部分，如推理步骤和答案。这使得反馈更加细粒化，训练更具针对性，从而增强了模型处理复杂、多步推理任务的能力。在数学基准测试上的评估表明，使用HiPO进行微调的LLM在性能和逻辑一致性方…
-
思维之树框架增强文本到图像生成
研究人员引入了一个思维之树（ToT）推理框架，以改进文本到图像的上下文学习（T2I-ICL）。这种新方法解决了当前多模态大型语言模型在从少样本示例中推断组合模式时面临的挑战，这些挑战常常导致提示构建和图像生成中的错误。ToT框架通过在合成最终图像之前生成、评估和选择多个假设来增强推理能力，从而减轻歧义并提高语义对齐。在CoBSAT基准上的评估表明，这种结构化的、多分支的推理方法比基线和思维链策略产生更一致的结果，且无需额外训练。
-
Framework of Thoughts 通过动态优化增强 LLM 推理能力
研究人员推出 Framework of Thoughts (FoT)，这是一个新的基础框架，旨在增强大型语言模型 (LLM) 的动态和优化推理能力。现有的思维链 (Chain of Thought)、思维树 (Tree of Thoughts) 和思维图 (Graph of Thoughts) 等提示方案通常需要静态的、针对特定问题的结构，并且可能效率低下。FoT 旨在通过整合超参数调整、提示优化、并行执行和智能缓存等功能来解决这些问…
-
Graph of Thoughts 框架支持合并推理分支
一种名为 Graph of Thoughts (GoT) 的新推理框架已被引入，它建立在 Tree of Thoughts (ToT) 的概念之上。与 ToT 不同，ToT 将每个想法的推理限制为单个父节点，而 GoT 允许想法有多个父节点，从而能够合并不同的推理分支。这种能力对于复杂问题至关重要，因为多条推理线索可能各自捕获解决方案的一部分。GoT 使用四种操作：生成、评分、聚合/合并和精炼/循环，其中聚合步骤是允许组合部分解决方案…
-
Agri-SAGE框架使用大语言模型和仿真技术生成农业咨询
研究人员开发了Agri-SAGE，一个整合了多智能体大语言模型（LLM）推理与生物物理仿真的新框架，用于生成和验证农业咨询。该系统旨在通过考虑生长季内的变异性和动态不确定性，克服静态指南的局限性。在为期10年的回顾性分析中，Agri-SAGE测试的三种推理方法——Plan-and-Solve、Tree of Thoughts和Reflexion——显著优于传统的实践方案基线。值得注意的是，Tree of Thoughts达到了最高产量…
-
Least-to-Most Prompting 通过顺序分解增强 LLM 的问题解决能力
Least-to-Most Prompting 是一种旨在提高大型语言模型处理复杂、多步问题能力的技术。该方法包含两个主要阶段：首先，指示模型将问题分解为更小、有序的子问题；其次，按顺序解决这些子问题，将每个步骤的输出作为下一步的输入。这种方法对于中间结果至关重要的组合任务特别有效，它通过明确构建解决问题的过程，为诸如 Chain-of-Thought prompting 等方法提供了一种替代方案。
-
新的大型语言模型方法利用思维之树增强法律判决摘要
研究人员开发了一种使用大型语言模型（LLMs）对法律案件判决进行摘要的新混合方法。该方法结合了提取式和生成式摘要技术，并受到思维之树框架的启发。使用DeepSeek和LLama模型进行的实验表明，这种新颖的提取式-生成式提示比单独使用传统的提取式或生成式方法能产生更优的摘要。
-
新的TGEO框架增强了AI推理的可解释性
研究人员推出了一种名为Theorem-Grounded Execution Ontologies (TGEO)的新框架，旨在使大型语言模型的推理过程更具可解释性和可验证性。与暴露中间工件的现有方法不同，TGEO将推理建模为一个可执行的状态转换过程。该方法集成了定理族、领域本体和语义对象，以构建一个可执行的推理图，为推理过程的每一步提供显式表示。在密集定理任务上的评估表明，TGEO在创建可解释、可验证和可复现的AI推理系统方面是有效的。
-
思维之树增强大语言模型推理能力，超越线性链式思考
思维之树（Tree of Thoughts, ToT）方法通过将线性的“思维链”（Chain of Thought）过程转变为类似搜索的探索方式，从而增强了大语言模型的推理能力。ToT 从每个部分解决方案中生成多个潜在的下一步，使模型能够分支并探索各种推理路径。然后，由大语言模型本身对这些分支进行评分，以评估其前景，并且只保留得分最高的分支，以防止计算量爆炸。这种方法使得在主要路径导致死胡同时能够回溯到替代路径，因此对于拼图、规划和带…
-
HalluJudge系统检测AI代码审查中的幻觉
研究人员开发了HalluJudge，一个新颖的系统，旨在无需参考代码即可检测AI生成的代码审查评论中的幻觉。HalluJudge采用四种策略，包括结构化多分支推理，来评估审查评论与提供上下文的一致性。在Atlassian软件项目上的评估表明，HalluJudge具有成本效益，平均每次评估成本为0.009美元，F1得分为0.85。该系统在现实世界生产场景中的判断与开发者的偏好一致率为67%，为防止不准确的AI生成反馈提供了实际保障。
-
论文将思维之树 LLM 推理视为经典搜索问题
一篇新论文将大型语言模型（LLM）的思维之树（ToT）框架视为一个经典的启发式搜索问题。它提出了一个使用启发式搜索术语的统一分类法，将状态表示和启发式评估等 LLM 推理组件映射到经典搜索元素。该论文分析了现有的 ToT 实现，并确定了用于简单任务的“最佳优先搜索”和用于复杂推理的 DFS/MCTS 等设计模式，同时还强调了开放的算法挑战。
-
新框架融合LLM和贝叶斯优化实现AutoML
研究人员开发了CoFEH，一个将大型语言模型（LLM）与贝叶斯超参数优化（HPO）相结合的端到端自动化机器学习新框架。该系统使用具有思维树（Tree of Thought）方法的LLM来生成灵活的特征工程流水线，并使用贝叶斯优化模块进行HPO。CoFEH独特地交织了这些过程，允许在特征工程和超参数调优之间进行知情决策，与现有方法相比，其性能得到了提升。
-
Protein Thoughts 框架通过可解释信号增强 PPI 发现
研究人员开发了一个名为 Protein Thoughts 的新框架，以改进蛋白质-蛋白质相互作用 (PPI) 的发现。该系统将结合证据分解为四个不同的生物信号：序列相似性、结构互补性、界面平衡和化学相容性。通过保留这些单独的信号，Protein Thoughts 提供了一种透明的方法来对潜在相互作用进行排名和审计，超越了不透明的评分系统。该框架利用了假设驱动的思维之树搜索和微调的语言模型来有效地探索候选空间并指导搜索过程。
-
小型语言模型通过预算感知指导和提示消歧实现更好的推理
研究人员正在探索在不增加模型规模或计算成本的情况下增强小型语言模型（SLM）推理能力的方法。一种方法侧重于推理前的提示消歧，识别并解决用户提示中的语义风险，以提高大型语言模型对关键标记的注意力，仅花费0.02美元即可带来2.5个点的性能提升。另一种策略是双轨CoT（Dual-Track CoT），旨在通过采用预算感知分步指导和控制冗余步骤，使小型语言模型能够在严格的标记和计算预算内可靠地执行多步推理。
-
FGDM: 软件错误检测的推理感知多智能体框架，使用思维链和思维树提示
研究人员开发了一个名为FGDM的新框架，用于检测和修复软件错误。这个多智能体系统利用具有思维链和思维树提示的大型语言模型（LLMs）来理解代码依赖关系。该框架将代码转换为流程图，识别错误并生成修复方案，并与FAISS向量数据库集成以检索过去的类似问题。在C和Python的100多个程序上进行的实验表明，FGDM的性能优于现有方法，显著降低了Levenshtein距离并提高了余弦相似度。
-
新研究通过推测性方法和物理洞察力提升LLM推理能力
近期研究探索了增强大型语言模型（LLM）推理能力和效率的新方法。论文介绍了诸如思维之树（Tree-of-Thought）推理的推测性探索等技术，以打破同步瓶颈并实现显著的加速。其他工作则侧重于通过在推理时修剪错误的工具调用来改进工具集成推理，并开发机器人框架，使其在执行物理操作前能在潜在空间中进行物理推理。此外，研究还调查了辩论和投票等不同推理协议对LLM的有效性，发现虽然某些方法提高了安全性，但并不总是能增强实用性。