PulseAugur
实时 08:26:49
English(EN) Transformers are famously bad at arithmetic, so I set one's weights by hand (no training) and it multiplies with 100% accuracy [P]

Transformer 模型通过手动设置权重实现 100% 的乘法准确率

一位开发者手动设置了一个 Transformer 模型的权重以执行乘法运算,在没有经过任何训练的情况下,对三位数计算实现了 100% 的准确率。这种方法绕过了标准 Transformer 在算术任务上的已知局限性。开发者创建了四个模型版本,每个版本采用不同的计算策略,并发布了检查点供他人使用。 AI

影响 通过探索直接权重调整而非标准训练方法,为提高 LLM 在特定任务上的性能指明了一个潜在方向。

排序理由 通过直接操纵权重绕过传统训练,展示了一种在 Transformer 模型中实现算术任务高准确率的新颖方法。[lever_c_demoted from research: ic=1 ai=1.0]

在 r/MachineLearning 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

Transformer 模型通过手动设置权重实现 100% 的乘法准确率

报道来源 [1]

  1. r/MachineLearning TIER_1 English(EN) · /u/notforrob ·

    Transformer模型以算术能力差而闻名,所以我手动设置了一个模型的权重(无需训练),它的乘法准确率达到了100% [P]

    <!-- SC_OFF --><div class="md"><p>Obviously nobody needs a transformer that's good at multiplication. I wanted to know whether a stock transformer could do exact arithmetic if I chose its weights directly.</p> <p>I implemented the grade-school algorithm as a computation graph and…