PulseAugur
中
实时 14:29:02
English(EN) Are Arithmetic Heuristic Neurons Form-Invariant? A Mechanistic Analysis of Symbols, Text, and Code in LLMs

LLM展现出形式不变的算术能力，并受益于人类学习策略 · 已追踪2个来源

作者 PulseAugur 编辑部 · [2 个来源] ·

两篇新研究论文探讨了大语言模型（LLM）的算术能力。第一篇论文分析了Llama 3模型，发现一组共享的神经元负责跨符号、自然语言和Python代码格式的算术计算，这表明失败源于激活状态而非不同的电路。第二篇论文研究了基于Transformer的LLM，证明应用人类学习策略和认知赋能方法可以提高其在算术任务上的准确性，这表明LLM和人类之间可能存在共享的认知过程。 AI

影响 这些研究表明，LLM在算术方面可能比之前理解的具有更强大、更像人类的推理能力，这可能增加关键应用的信任度。

排序理由 两篇发表在arXiv上的学术论文，详细介绍了对LLM算术能力的研究。

在 arXiv cs.CL 阅读 →

AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →

LLM展现出形式不变的算术能力，并受益于人类学习策略 · 已追踪2个来源

报道来源 [2]

  1. arXiv cs.CL TIER_1 English(EN) · Sharath Naganna, Tanvir Ahmed Sijan, Uddipta Kalita ·

    算术启发式神经元是否具有形式不变性？对LLM中符号、文本和代码的机制分析

    arXiv:2607.16693v1 Announce Type: new Abstract: Large language models often succeed on one formulation of a problem while failing on an equivalent formulation. Whether these failures arise from distinct internal circuits or different activation states of a shared circuit remains …

  2. arXiv cs.LG TIER_1 English(EN) · Luyu Qiu, Jianing Li, Hwanhee Kim, Xiaoyong Wei, Yueyuan Zheng, Janet Hsiao, Lei Chen ·

    用人类策略解释和调整基于Transformer的大型语言模型在算术任务中的表现

    arXiv:2607.17166v1 Announce Type: new Abstract: Transformer-based large language models (LLMs) continue to achieve state-of-the-art performance across various natural language processing tasks. However, their subpar performance on seemingly elementary problems, such as basic arit…

相关实体

相关话题