NVIDIA 发布了其 Nemotron-Labs-3-Puzzle-75B 模型,该模型已针对 Blackwell 硬件上的服务进行了优化。该模型集成了 LatentMoE、Mamba-Interleaving 和 Multi-Token Prediction (MTP) 以提高吞吐量。它在 OpenMDW-1.1 许可下可用,允许商业使用。 AI
影响 优化服务基础设施,并可能提高大型模型的吞吐量。
排序理由 NVIDIA 是一个前沿实验室,发布了具有特定技术细节的新模型。
在 Mastodon — mastodon.social 阅读 →
- 8×B200
- Blackwell
- Iterative Puzzle
- LatentMoE
- Mamba
- Mamba2
- Mamba-Interleaving
- MTP heads
- Multi Token Prediction
- Nemotron-Labs-3-Puzzle-75B-A9B
- Nemotron-Labs-3-Puzzle-75B-A9B-NVFP4
- Nemotron-Labs-3-Puzzle-75B-FP8
- NVFP4 Quantization
- NVIDIA
- Nvidia B200
- NVIDIA H100
- OpenMDW-1.1
AI 生成摘要 · Google Gemini · 来自 3 个来源。 我们如何撰写摘要 →