实体
TC0
TC0
PulseAugur coverage of TC0 — every cluster mentioning TC0 across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
新假说：AI能力取决于访问结构，而非仅仅规模
一篇新论文提出了能力收敛假说（CCH），认为尽管模型表征可能随规模收敛，但在固定推理预算下，其能力不一定会随之收敛。CCH认为，真正的能力收敛需要同时拥有压缩状态通道和可扩展的逐字索引通道的混合架构来实现。作者们通过理论下界和预注册实验来支持这一观点，展示了具有和不具有这些访问结构的模型之间存在显著的性能差距。
-
新理论使用最优输运分析LLM推理极限
研究人员开发了一个理论框架，使用最优输运来分析大型语言模型（LLM）的推理和分布外泛化能力。他们的方法用Wasserstein-1距离量化域偏移，并确定了两个关键限制：依赖位置的注意力机制阻碍了移位不变性，而Transformer中的顺序回溯对电路深度施加了下限。在组合搜索任务上的评估证实，泛化风险随域偏移的增加而增加，凸显了物理层深度缩放的必要性。