Aiterhofen
PulseAugur coverage of Aiterhofen — every cluster mentioning Aiterhofen across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
AMD 的 AITER 内核在 vLLM 中拖慢 Gemma 4 性能
一篇技术指南详细介绍了一个实验,该实验在 vLLM 框架内测试了 AMD 的 AITER 内核,用于在 AMD MI300X GPU 上部署 Gemma 4 12B 模型。结果表明,启用 AITER(为 AMD Instinct 卡提供优化的 GPU 内核)实际上在所有测量指标上都降低了 Gemma 4 的性能。这种性能下降归因于 AITER 的矩阵乘法内核没有针对 Gemma 4 的权重形状进行特定优化,并且由于异构的头维度,模型的…
-
AMD MI355X 在 Kimi K2.5 模型上的 vLLM 性能超越 Nvidia B200
AMD 的 MI355X 图形卡在 Kimi K2.5 模型的 vLLM 基准测试中表现优于 Nvidia 的 B200,这是社区开发的内核驱动的重大成就。这一进步源于 AMD 和 GPU_MODE 组织的一项价值 110 万美元的内核黑客马拉松,通过在 MoE、Top-K 和张量并行内核方面的优化,使 MI355X 的端到端性能提高了 4 倍以上。虽然 AMD 在 Kimi 模型上的 vLLM 性能仍有差距,但这些已合并到 AMD …
-
AMD MI355X 性能因社区黑客马拉松而提升,在 Kimi 模型上可与 B200 匹敌 · 跟踪 6 个来源
AMD 与 GPU_MODE 合作,启动了一个耗资 110 万美元的内核黑客马拉松,显著提升了其 MI355X 图形卡的性能。Readonflow Team 的优化专注于 MoE 内核和其他核心组件,带来了高达 4 倍的性能提升,并已合并到 AMD 的 AITER 内核库和 ATOM 推理引擎中。该计划旨在使 AMD 的 vLLM 性能接近 CUDA vLLM 的水平,并增强社区对 ROCm 堆栈的体验。
-
AI框架自主设计无线通信算法 · 跟踪2个来源
研究人员开发了AI Telco Engineer (AITE),一个利用大型语言模型驱动的进化搜索自主设计无线通信算法的框架。AITE被应用于两个物理层问题:为OTFS系统设计均衡器和为OFDM系统设计接收器。对于OTFS任务,AITE创建的算法超越了现有解决方案,并将计算延迟降低了3.6倍。对于OFDM任务,它生成了性能与最先进的神经网络接收器相当的可解释算法。