实体
NC1
NC1
PulseAugur coverage of NC1 — every cluster mentioning NC1 across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
新论文定义结构泛化,质疑Transformer能力
一篇新论文定义了结构泛化,这是一个之前通过基准测试衡量但缺乏正式定义的概念。研究认为,纯粹的Transformer模型由于其可学习类别仅限于TC^0,且结构泛化的计算复杂性为NC^1完全,因此无法实现结构泛化。论文提出,神经符号系统表现更好,因为它们融入了泛化的语义层面,而纯粹的Transformer模型在这方面存在困难,并且当前的基准测试无法区分学习到的泛化和提供的泛化。
-
新假说:AI能力取决于访问结构,而非仅仅规模
一篇新论文提出了能力收敛假说(CCH),认为尽管模型表征可能随规模收敛,但在固定推理预算下,其能力不一定会随之收敛。CCH认为,真正的能力收敛需要同时拥有压缩状态通道和可扩展的逐字索引通道的混合架构来实现。作者们通过理论下界和预注册实验来支持这一观点,展示了具有和不具有这些访问结构的模型之间存在显著的性能差距。