Moonshot AI 发布了 FlashKDA，这是 Kimi Delta Attention 的一个开源实现。该新内核在 NVIDIA H200 GPU 上实现了高达 2.5 倍的推理速度提升。它使用 CUTLASS 构建，并针对可变长度批处理进行了优化，可以无缝集成到现有的深度学习框架中。 AI
影响 加速高端 GPU 上基于注意力机制模型的推理，可能降低成本并提高吞吐量。
排序理由 专门用于注意力机制的内核的开源发布。
在 Mastodon — mastodon.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
📰 FlashKDA Open-Sourced: 2.5x Faster Kimi Delta Attention on H200 GPUs (2026) Moonshot AI has open-sourced FlashKDA, a high-performance implementation of Kimi Delta Attention that delivers up to 2.5x faster inference on Hopper GPUs. Built with CUTLASS and optimized for variable-l…
📰 FlashKDA ile Kimi Delta Attention 2.5x Hızlanıyor: Moonshot AI'nin 2026'daki Open Source AI Devrimi Moonshot AI, CUTLASS tabanlı FlashKDA çekirdekleriyle Kimi Delta Attention'ı H200 GPU’da 2.5 kat hızlandırdı. Bu gelişmenin nöro-bilimsel ve endüstriyel etkileri derinlemesine an…