Strahler number

思维链解锁 Transformer 中的分支复杂性

研究人员开发了新的思维链（CoT）构造，展示了如何在 Transformer 中实现分支复杂性。这些构造利用硬注意力解码器，为深度优先搜索（DFS）和 Dijkstra 算法提供了明确的、有界深度的实现方法。该研究表明，CoT 可以在线性步骤中计算树的 Strahler 数，并将有序树与 Dyck 路径相关联，从而为有界深度 Transformer 的表达能力提供了新的见解。