实体 8xB200

8xB200

PulseAugur coverage of 8xB200 — every cluster mentioning 8xB200 across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

0

90 天内 0

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_128708 · Jul 7 · 04:00

Nemotron-Labs-3-Puzzle-75B-A9B 压缩混合MoE大语言模型以实现高效部署

研究人员开发了 Nemotron-Labs-3-Puzzle-75B-A9B，这是 Nemotron-3-Super 大型语言模型的压缩版本。该优化变体专为高效的交互式部署而设计，在 8xB200 节点上实现的服务器吞吐量是其父模型的两倍。它还显著增强了长上下文能力，在单个 H100 GPU 上将 100 万 token 的并发请求从一个增加到八个。压缩过程涉及一个多阶段管道，结合了迭代式 Puzzle 压缩、知识蒸馏、强化学习、量化…