研究人员开发了一个新的理论框架，用于理解学习自回归思维链（CoT）轨迹的样本复杂度。该研究证明，在可实现PAC设置中，样本复杂度受限于标准多类速率，由Daniely-Shalev-Shwartz（DS）维度决定。这种新方法引入了奇偶校验维度，它是DS维度的改进，在滚动下是稳定的，并且不会随着自回归步骤的增加而增加，从而解决了原始DS维度的一个限制。 AI
影响 为理解大型语言模型中高级推理方法的数据需求提供了理论基础。
排序理由 该集群包含一篇详细介绍机器学习理论研究的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
arXiv:2607.07423v1 Announce Type: cross Abstract: We prove that, in the realizable PAC setting, the sample complexity of exact-trace learning for full autoregressive Chain-of-Thought traces is upper bounded by the standard multiclass rate of the local next-token class, where this…
We prove that, in the realizable PAC setting, the sample complexity of exact-trace learning for full autoregressive Chain-of-Thought traces is upper bounded by the standard multiclass rate of the local next-token class, where this rate is governed by the Daniely--Shalev-Shwartz d…