PulseAugur
实时 11:46:25
English(EN) Position: The Turing-Completeness of Real-World Autoregressive Transformers Relies Heavily on Context Management

论文:Transformer 的图灵完备性取决于上下文管理

一篇新论文认为,人工智能研究中常被引用的自回归 Transformer 的图灵完备性常常被误解。作者区分了固定的 Transformer 系统和扩展系列设置,并声称现有的图灵完备性证明主要适用于后者。他们提出,上下文管理,而不是 Transformer 架构本身,是决定现实世界大型语言模型计算能力的关键因素。 AI

影响 阐明了大型语言模型能力的理论基础,可能影响模型架构和上下文处理的未来研究方向。

排序理由 该集群包含一篇讨论人工智能模型理论方面的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.CL 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

论文:Transformer 的图灵完备性取决于上下文管理

报道来源 [1]

  1. arXiv cs.CL TIER_1 English(EN) · Kun He ·

    职位:真实世界自回归 Transformer 的图灵完备性在很大程度上依赖于上下文管理

    Many works make the eye-catching claim that Transformers are Turing-complete. However, the literature often conflates two distinct settings: (i) a fixed Transformer system setting, in which a fixed autoregressive Transformer is coupled with a fixed context-management method to pr…