MXFP6
PulseAugur coverage of MXFP6 — every cluster mentioning MXFP6 across labs, papers, and developer communities, ranked by signal.
-
AMD MI4555X 加速器拥有 40 Petaflops 和 432GB RAM
据报道，AMD 的 MI4555X 加速器提供令人印象深刻的性能，拥有 40 Petaflops 的 MXFP6 计算能力，该格式接近 FP8 质量。它还配备了大量的 432 GB RAM，内存带宽约为 20 TB/s。
-
Karpathy 提倡以 STEM 为重点的教育；新的 AMD GPU 规格揭晓
Andrej Karpathy 建议 80% 的教育应侧重于数学、物理和计算机科学，暗示传统学校教育对未来几代人来说可能不太重要。另外，AMD MI4555X GPU 因其有前景的规格而受到关注，包括 40 Petaflops 的性能和 432 GB 的 RAM 以及大量的带宽，并利用 MXFP6 来提高精度。
-
DynamiQ框架通过优化的梯度同步加速LLM训练
研究人员开发了DynamiQ，一个旨在通过优化梯度同步来加速大型语言模型训练的新框架。该方法通过采用新颖的部分和表示技术以及用于高效执行的融合内核，解决了大规模模型训练中的网络瓶颈问题。DynamiQ已展示出显著的改进，与现有最先进的方法相比，速度提升高达34.2%，同时保持接近基线的准确性。
-
新工具通过先进的 NVFP4/MXFP6 量化优化 llama.cpp 模型
一位开发者发布了一款先进的 llama.cpp 量化工具，旨在创建 NVFP4 和 MXFP6 GGUF 模型。该工具超越了基础量化，通过评估各种方法并结合 RSF（精炼尺度拟合）等自定义技术来优化模型性能。它使用困惑度（perplexity）和 KLD 等指标对层进行单独评分，同时保守处理敏感张量，并在合理时将其提升到更高的精度。该项目还包括一个用于 NVIDIA Blackwell 架构的新 MXFP6 CUDA 实现。