AMD Instinct MI325X
PulseAugur coverage of AMD Instinct MI325X — every cluster mentioning AMD Instinct MI325X across labs, papers, and developer communities, ranked by signal.
-
Instella-MoE:新的开源 MoE 语言模型发布
一份新的技术报告介绍 Instella-MoE,一个拥有 160 亿总参数的开源专家混合(MoE)语言模型。该模型在 AMD Instinct GPU 上训练,并采用了门控多头潜在注意力(Gated Multi-head Latent Attention)和 FarSkip-Collective 连接等创新技术,以实现高效的训练和推理。Instella-MoE 在预训练基准测试中表现强劲,优于其他开源模型,并在指令遵循、推理、数学、编…
-
AMD 发布开源 Instella-MoE 语言模型
AMD 发布了 Instella-MoE-16B-A3B-Think,这是一款新的开源专家混合(Mixture-of-Experts)语言模型。该模型拥有 160 亿总参数,每个 token 有 28 亿激活参数,并在 AMD Instinct MI300X 和 MI325X GPU 上从头开始训练。发布内容包括所有训练阶段的检查点,并提供了与 Transformers 和 vLLM 等流行库以及 SGLang 和 Docker 等工…
-
Character.ai、DigitalOcean、AMD 将 AI 推理性能提升 2 倍
Character.ai 与 DigitalOcean 和 AMD 合作,在其 AI 娱乐平台上实现了生产推理性能的两倍提升。通过对 AMD Instinct MI300X 和 MI325X GPU 平台进行深度技术优化,利用专家混合模型并行化和高效 FP8 执行等先进技术,实现了这一显著改进。此次合作促成了与 DigitalOcean 为期多年、年达八位数的 GPU 基础设施协议,使 Character.ai 能够以可预测且具成本效…