PulseAugur
中
实时 05:00:17
English(EN) CoWindow and MassAlloc Attention: collective causal coverage and distribution-adaptive compute [R]

新的注意力机制CoWA和MALA提高了LLM的效率

作者 PulseAugur 编辑部 · [1 个来源] ·

研究人员引入了两种新颖的注意力机制，CoWindow Attention (CoWA) 和 MassAlloc Attention (MALA)，旨在提高大型语言模型的计算效率。CoWA通过互补窗口将注意力分布在多个KV头中，在保持完全因果覆盖的同时实现稀疏注意力。MALA利用注意力的softmax统计数据选择性地执行后分数计算，从而优化计算。这两种方法在注意力操作方面都显示出显著的加速，CoWA的前向传播速度提高了7.4倍，MALA提供了2.2倍的加速，从而在不损害模型能力的情况下减少了训练FLOPs。 AI

影响 这些方法可以显著降低训练和运行大型语言模型的计算成本，从而实现更高效的开发和部署。

排序理由 该集群描述了关于LLM新注意力机制的新研究论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 r/MachineLearning 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

新的注意力机制CoWA和MALA提高了LLM的效率

本文如何被排名

Signal score
0 / 100
Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket
Tool
该集群描述了关于LLM新注意力机制的新研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
Source corroboration
Single-source cluster
Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics
paper, infra
Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance
High
Clearly on-topic for AI-industry coverage.
Story freshness
Same-day
Cluster formed today. Ranking reflects the current source set at time of score.

完整方法见我们的编辑标准。

报道来源 [1]

  1. r/MachineLearning TIER_1 English(EN) · /u/BitExternal4608 ·

    CoWindow 和 MassAlloc Attention：集体因果覆盖和分布自适应计算 [R]

    <!-- SC_OFF --><div class="md"><p>I'm one of the authors of two recent papers exploring different sources of redundant computation in attention. I'd like to share the ideas and hear feedback from people working on long-context models and attention kernels.</p> <p><strong>CoWindow…

相关话题