一篇新论文定义了结构泛化，这是一个之前通过基准测试衡量但缺乏正式定义的概念。研究认为，纯粹的Transformer模型由于其可学习类别仅限于TC^0，且结构泛化的计算复杂性为NC^1完全，因此无法实现结构泛化。论文提出，神经符号系统表现更好，因为它们融入了泛化的语义层面，而纯粹的Transformer模型在这方面存在困难，并且当前的基准测试无法区分学习到的泛化和提供的泛化。 AI
影响 这项研究对纯粹Transformer模型实现结构泛化的能力提出了挑战，表明需要采用神经符号方法。
排序理由 该集群包含一篇学术论文，详细介绍了AI模型中结构泛化计算复杂性的理论研究。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
