PulseAugur
中
实时 18:29:36
English(EN) Weights aren't the only thing that should be open-source.

Fireworks AI 开源 MiniMax AI 协作的推理内核

作者 PulseAugur 编辑部 · [1 个来源] ·

Fireworks AI 已开源其近期与 MiniMax AI 合作背后的内核存储库。此次发布包括对 MiniMax Sparse Attention (MSA) 的优化，通过改进注意力内核加载和存储管道，实现了 1.6 倍的吞吐量提升。该公司表示，权重并非唯一应该开源的方面，强调了分享这些底层优化的价值。 AI

影响 提高了 AI 推理基础设施的透明度以及社区驱动改进的潜力。

排序理由 开源推理内核和针对特定 AI 模型的优化。 [lever_c_demoted from research: ic=1 ai=0.7]

在 X — Fireworks (inference infra) 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

Fireworks AI 开源 MiniMax AI 协作的推理内核

报道来源 [1]

  1. X — Fireworks (inference infra) TIER_1 English(EN) · FireworksAI_HQ ·

    Weights aren't the only thing that should be open-source.

    Weights aren't the only thing that should be open-source. Both kernel repos behind our recent work with @MiniMax_AI are now public: → Fireworks: https://t.co/EBNJjitfsT → Minimax: https://t.co/FTQEbiCSsl

相关实体

相关话题