AMD MI300X
PulseAugur coverage of AMD MI300X — every cluster mentioning AMD MI300X across labs, papers, and developer communities, ranked by signal.
3 天有情绪数据
-
MoonMath AI 开源 HIP Attention Kernel 以支持 AMD MI300X，性能超越 AITER v3
MoonMath AI 已开源一个用于 AMD MI300X GPU 的新型 bf16 前向注意力内核，该内核使用 HIP 编写。据报道，该内核在各种配置下均优于 AMD 自家的 AITER v3，速度提升高达 1.26 倍。性能提升归因于战略性的内存放置和一种新颖的单指令汇编包装器技术，该技术允许在利用编译器进行寄存器分配优化的同时，精确控制操作。这项进展已集成到 SGLang 中，以加速 Wan2.1 等视频扩散模型。
-
MoonMath AI 开源 AMD MI300X 注意力内核，性能优于 AITER v3 · 跟踪 3 个来源
MoonMath AI 发布了一个开源的 HIP 注意力内核，适用于 AMD 的 MI300X GPU，据报道其性能优于 AMD 自家的 AITER v3。该内核通过优化内存布局和使用单指令汇编包装器进行寄存器控制，实现了高达 1.26 倍的速度提升。此优化已集成到 SGLang 中，以加速 Wan2.1 等视频扩散模型。
-
Qwen3 32B 在 AMD MI300X 上微调失败
在 AMD MI300X 硬件上微调 Qwen3 32B 模型时遇到了重大问题，导致资源浪费且未能学习。据报道，在意识到这个拥有 320 亿参数的模型没有进展之前，该过程消耗了 10 美元的 GPU 积分。
-
Kog AI 在标准GPU上实现每秒3000个token的LLM推理
Kog AI 推出了其Kog推理引擎（KIE）的技术预览版，在标准数据中心GPU上展示了显著更快的实时LLM推理速度。该引擎在8块AMD MI300X GPU上实现了每秒3000个输出token，在8块NVIDIA H200 GPU上实现了每秒2100个token，重点在于优化整个软件栈的内存带宽而非原始FLOPS。这一进步对于AI代理尤其关键，因为单请求的解码速度直接影响迭代速度以及在给定时间预算内可完成的任务的复杂性。
-
Triton MoE kernel 在 AMD 和 NVIDIA 上实现高性能
一个新实现的、完全用 Triton 编写的 Fused Mixture-of-Experts (MoE) dispatch kernel，其性能达到了 Stanford 的 Megablocks 库的 89-131%。该 kernel 尤其值得注意的是，无需任何代码修改即可在 AMD MI300X 硬件上运行。主要优化在于融合了 gate 和 projection 操作，通过将中间结果保留在寄存器中，显著减少了全局内存流量。
-
MachinaCheck 使用专用代理确保制造的零件可加工
MachinaCheck 是一个新颖的多代理系统，旨在弥合 CAD 设计与 CNC 制造之间的差距，确保零件在生产前即可加工。该系统利用专用代理解析几何、查询材料约束并模拟刀具路径，采用 AMD MI300X 硬件以实现确定性延迟和内存带宽。MachinaCheck 不会将分歧升级给人类，而是尝试进行本地调整，例如更改切削速度或刀具路径，仅在这些自动化解决方案耗尽时才标记进行审查，这展示了在需要严谨性的领域中代理自动化的稳健方法。
-
Zyphra的TSP策略将LLM训练吞吐量提升2.6倍
Zyphra开发了一种名为张量与序列并行（TSP）的新技术，旨在优化大型Transformer模型的训练与推理。这种硬件感知的策略结合了张量并行和序列并行的方面，能够更有效地在GPU之间分配模型权重和输入序列。基准测试表明，TSP的吞吐量最高可达现有方法的2.6倍，同时还能减少每GPU的内存使用量。
-
MachinaCheck 自动化数控可制造性分析，支持本地部署AI
一个名为MachinaCheck的新系统已被开发出来，用于自动化数控零件的可制造性评估，将处理时间从一小时缩短到30秒。这个多智能体AI系统利用运行在AMD MI300X硬件上的Qwen 2.5 7B Instruct模型，确保敏感的客户设计数据保留在本地，解决了制造业中的关键隐私问题。该系统解析STEP文件以提取几何特征，然后使用LLM确定所需的数控操作和工具，并提供一份全面的报告。