AMD Instinct MI300x
PulseAugur coverage of AMD Instinct MI300x — every cluster mentioning AMD Instinct MI300x across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
Zyphra 的 ZAYA1-8B 模型在 AMD 硬件上展现出强大的推理能力
Zyphra 发布了 ZAYA1-8B,这是一个获得 Apache 2.0 许可的混合专家(Mixture-of-Experts)推理模型,拥有 84 亿总参数和约 7.6 亿激活参数。值得注意的是,该模型完全在 AMD Instinct MI300X GPU 上训练,展示了开源 AI 生态系统的硬件多样性。虽然 ZAYA1-8B 在同等规模的模型中,在数学和推理基准测试上表现强劲,接近前沿模型,但其最佳性能依赖于 Zyphra 对 …
-
Zyphra 发布 ZAYA1-8B MoE 模型,活跃参数不足 10 亿
Zyphra 发布了 ZAYA1-8B,一个拥有 84 亿参数的混合专家(Mixture-of-Experts)模型,每个 token 仅激活约 7.6 亿参数。该架构使其在数学和编码基准测试中能够达到与更大模型相媲美的性能,包括 Claude 4.5 Sonnet。该模型采用了压缩卷积注意力(Compressed Convolutional Attention)和基于 MLP 的专家选择路由器等架构改进,并在大量 AMD Insti…
-
临床 AI 在 AMD 硬件上微调,绕过 CUDA 依赖
一个项目已成功在 AMD 硬件和 ROCm 上微调了临床 AI 模型 MedQA,证明了在没有 NVIDIA 的 CUDA 的情况下也可以进行高级 AI 开发。微调过程使用了 Qwen3-1.7B 模型和 MedMCQA 数据集,仅在 AMD Instinct MI300X 上花费了五分钟就取得了成果。这项工作突显了 Hugging Face 生态系统与 ROCm 的兼容性,可能拓宽 AI 开发工具的可及性。
-
Zyphra的ZAYA1-8B MoE模型在AMD硬件上训练,表现优于更大模型
Zyphra AI发布了ZAYA1-8B,一个专家混合(MoE)语言模型,拥有7.6亿个活跃参数和84亿个总参数。该模型在AMD硬件上训练,在数学和编码基准测试中表现出与更大模型相媲美的性能,采用了压缩卷积注意力(Compressed Convolutional Attention)和基于MLP的路由器等创新技术。ZAYA1-8B在Apache 2.0许可下可用,并提供无服务器终端,为设备端应用提供高效部署和低延迟推理。
-
Character.ai、DigitalOcean、AMD 将 AI 推理性能提升 2 倍
Character.ai 与 DigitalOcean 和 AMD 合作,在其 AI 娱乐平台上实现了生产推理性能的两倍提升。通过对 AMD Instinct MI300X 和 MI325X GPU 平台进行深度技术优化,利用专家混合模型并行化和高效 FP8 执行等先进技术,实现了这一显著改进。此次合作促成了与 DigitalOcean 为期多年、年达八位数的 GPU 基础设施协议,使 Character.ai 能够以可预测且具成本效…