PulseAugur
中
实时 20:11:20
实体 Mixture of Block Attention

Mixture of Block Attention

PulseAugur coverage of Mixture of Block Attention — every cluster mentioning Mixture of Block Attention across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天

2 天有情绪数据

最近 · 第 1/1 页 · 共 2 条
  1. TOOL · CL_370540 ·

    LightningMoBA 大幅缩短长上下文 LLM 推理时间

    研究人员开发了 LightningMoBA,这是一种 Transformer 架构的进步,旨在显著加快大型语言模型 (LLM) 的长上下文推理速度。这种新方法动态地将查询路由到最相关的键值块,从而减少了计算开销和内存流量。在 NeurIPS 2026 的一次演示中,生成一个 50,000 词长的故事比之前最先进的方法快了 71%,使得长上下文生成在实际应用中更加可行。

  2. TOOL · CL_368747 ·

    LightningMoBA通过动态路由加速AI模型注意力

    研究人员开发了LightningMoBA,一种加速AI模型长上下文注意力的جہ新方法。该方法通过引入动态路由、KV中心所有权和运行时流水线,改进了现有的块注意力混合(MoBA)技术。这些优化允许更有效地选择和处理键值块,从而在保持或提高模型质量的同时,显著加快推理和训练速度。