实体
H200 GPU
H200 GPU
PulseAugur coverage of H200 GPU — every cluster mentioning H200 GPU across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
2 天有情绪数据
最近 · 第 1/1 页 · 共 3 条
-
新方法大幅降低LLM蒸馏成本并延长上下文长度
Multiverse Computing的一篇新论文介绍了两种提高大型语言模型知识蒸馏效率的方法。第一种方法是离线蒸馏，它缓存教师模型的Top-K Logits，在单个H200 GPU上将训练时间缩短29%，吞吐量提高41%。第二项贡献是融合分块KL损失，该方法分块处理序列，使峰值内存使用量与序列长度呈线性关系，并能以四倍的上下文长度进行训练。这些技术共同降低了内存需求，并使大规模蒸馏更加经济实惠。
-
MegaSlide-DiT 使单 GPU 能够适配大型视频扩散模型
研究人员开发了 MegaSlide-DiT，这是一个能够在一块高端 GPU 上适配大型视频扩散模型的系统。这是通过将模型权重和优化器状态保留在主机 RAM 中，并将仅必要的碎片流式传输到 GPU 来实现的。此外，该系统用线性复杂度的 3D 可变形滑动注意力（3D-DSA）算子取代了计算成本高昂的二次注意力，该算子能够自适应运动。
-
中国合成钻石行业将为AI芯片散热提供解决方案
AI芯片日益增长的热需求，其散热功率现已超过1000W，为中国合成钻石行业带来了巨大的机遇。由于其优于铜的导热性能，合成钻石是理想的散热解决方案。中国已生产全球95%的合成钻石，有望成为这一新兴市场的关键供应商，NVIDIA等公司已将基于钻石的材料集成到其GPU中。