Rocm
PulseAugur coverage of Rocm — every cluster mentioning Rocm across labs, papers, and developer communities, ranked by signal.
12 天有情绪数据
-
开源AI管线可在本地生成游戏资产
一位开发者创建了一个使用开源AI模型在本地生成游戏资产的完整管线，并已移植到GGML以实现本地执行。该管线包括用于文本转语音及语音克隆（OpenMOSS）、音效生成（ThinkSound.cpp）以及最先进的3D模型生成（Trellis.2）的工具。这些工具已集成到Lemonade SDK中，通过级联模型实现文本到3D生成等复杂工作流。整个系统基于宽松的开源许可证构建，并支持CUDA、Vulkan和ROCm以实现广泛的硬件兼容性。
-
AMD推出4000美元Ryzen AI Halo迷你PC，用于本地AI开发
AMD发布了Ryzen AI Halo，这是一款售价4000美元的迷你PC，专为本地AI开发而设计。该系统配备了Zen 5 AMD Ryzen AI Max+ 395处理器，集成Radeon 8060S显卡和一个NPU，并配有128 GB内存和2 TB SSD。它预装了Windows或基于Debian的Linux发行版，为AI从业者提供了一个交钥匙解决方案，尽管其性能和价格点被认为与NVIDIA的DGX Spark系统相当。
-
llama.cpp 发布多个更新，提升性能和稳定性
llama.cpp 项目发布了多个更新，包括版本 b9888、b9886、b9885、b9884、b9882、b9881、b9879、b9878、b9877 和 b9876。这些版本在不同平台和硬件加速器上引入了各种改进和修复。值得注意的更新包括 CUDA 中 flash attention 的扩展 K 型验证、ARM NVFP4 点积的优化，以及对张量分割参数和多缓冲区处理的修复。这些版本还为 macOS、iOS、Linux、And…
-
大型语言模型（LLM）尚未激发针对英伟达（NVIDIA）CUDA 的竞争，用户询问原因
用户质疑，尽管大型语言模型（LLM）在编码方面能力很强，但为何未能显著加速 ROCm 和英特尔（Intel）堆栈等替代软件生态系统的发展，以与英伟达（NVIDIA）的 CUDA 竞争。他们观察到，英伟达（NVIDIA）凭借其成熟的软件生态系统所带来的“即插即用”的产品体验，维持着高昂的价格。用户希望有更经济实惠的 AI 硬件，并认为这只有在更强的市场竞争下才能实现。
-
AMD Strix Halo NPU现可通过Lemonade软件用于LLM推理
一款名为Lemonade的新软件已发布，它支持在AMD Strix Halo设备上使用神经网络处理单元（NPU）来运行大型语言模型。这使得混合模型成为可能，该模型利用NPU进行快速提示处理，并利用集成GPU进行并行执行，从而显著提高性能。这一进展对于一年前购买了这些设备的用户来说是向前迈出的重要一步，使他们能够充分利用硬件能力进行LLM推理。
-
高通以40亿美元收购AI芯片软件公司Modular
高通公司正以近40亿美元的价格收购芯片软件初创公司Modular，其中包括向Modular员工支付3亿美元。此次收购旨在加强高通在移动芯片以外领域的扩张，进军AI小工具和数据中心等领域。Modular的平台允许开发人员编写AI软件，这些软件无需大量重写即可在各种芯片上运行，对Nvidia的CUDA等现有系统构成挑战。
-
在 AMD Strix Halo 上使用 ROCm 成功训练 Ideogram 4 LoRA
一位用户在使用 ROCm 和 AI-Toolkit 的 AMD Strix Halo APU 上成功训练了 Ideogram 4 人脸 LoRA。该过程涉及几个 AMD 特有的挑战，包括 bitsandbytes 的不兼容性、融合注意力下 Qwen3-VL 文本编码器的问题，以及 JSON 标题中触发词的静默失败。尽管存在这些障碍，训练仍成功完成，并产生了可用的结果。
-
AMD 发布 ATOM + ATOMesh 以支持 ROCm LLM 服务和分离
AMD 发布了 ATOM 和 ATOMesh，这是一个专为其 Instinct GPU 和 ROCm 软件设计的新 LLM 服务堆栈。该堆栈引入了一种称为预填充/解码分离的技术，该技术将计算密集型的预填充阶段与内存带宽密集型的解码阶段分离到不同的 GPU 池上。此优化旨在通过允许每个阶段更有效地利用硬件资源来提高推理效率，这与在单个 GPU 池上运行两者的传统方法不同。
-
MoonMath AI 开源 AMD MI300X 注意力内核，性能优于 AITER v3 · 跟踪 3 个来源
MoonMath AI 发布了一个开源的 HIP 注意力内核，适用于 AMD 的 MI300X GPU，据报道其性能优于 AMD 自家的 AITER v3。该内核通过优化内存布局和使用单指令汇编包装器进行寄存器控制，实现了高达 1.26 倍的速度提升。此优化已集成到 SGLang 中，以加速 Wan2.1 等视频扩散模型。
-
Ideogram 4 LoRA训练详细介绍，适用于AMD硬件和风格示例
用户们正在分享他们为Ideogram 4模型训练LoRA的经验和结果。Ideogram 4是一个因其开源能力而受到赞誉的扩散模型。一位用户详细介绍了在AMD Strix Halo系统上使用ROCm和AI-Toolkit训练人脸LoRA的过程，强调了AMD硬件的特定挑战和解决方案。其他用户展示了为特定风格（如吉卜力工作室、动漫/数字绘画）训练的LoRA，其中一些用户注意到出现意外结果，例如特征夸张，并讨论了最佳训练步骤。
-
用户询问 Linux/ROCm 是否能提升 AMD R9700 的性能
一位用户正在询问，将基于 Windows 的 AMD R9700 设置切换到使用 ROCm 的 Linux 系统来运行 Wan-2.2，是否能带来潜在的性能提升。他们正在寻求社区的经验分享，以判断是否值得付出努力来获得显著的速度提升。
-
AMD 发布 3999 美元迷你 PC，用于本地 AI 开发
AMD 已开始接受其新款“Ryzen AI Halo”开发机的预订，售价为 3999 美元（约合 64 万日元）。这款紧凑型 PC 专为在本地运行大型 AI 模型而设计，包括参数高达 2000 亿的模型。它配备了“Ryzen AI Max+ 395”处理器（代号 Strix Halo），共享内存高达 128GB，旨在与 NVIDIA 的 DGX Spark 在本地 AI 开发领域竞争。
-
llama.cpp 发布增强性能并添加新功能
llama.cpp 项目发布了多个更新，包括 b9608，该版本更新了 cpp-httplib 并为 macOS、Linux、Android 和 Windows 等各种平台提供了预编译二进制文件。b9606 版本引入了 EAGLE3 推测解码支持，增强了模型推理能力。b9605 版本包括为 Adreno GPU 添加 OpenCL 内核，提高了在某些移动设备上的性能。b9604 版本解决了 SYCL 后端的 CI 构建和发布问题，确保…
-
Step-3.7-Flash on AMD/ROCm 遇到上下文损坏和需要思考预算的问题
一位在 AMD 硬件上运行 Step-3.7-Flash 模型并使用 ROCm 的用户发现了两个关键问题。首先，ROCm 在超过约 94,000 个 token 的上下文窗口时似乎会损坏上下文，导致模型循环并无法产生可用答案，尽管 Vulkan 在更长的上下文中保持稳定。其次，模型需要一个硬性的“思考”token 预算来防止过度处理和空输出，对于分类任务而言，256 个 token 的预算在没有显著质量下降的情况下被证明是有效的。
-
新工具可视化 AMD Strix Halo 上的 NPU 和 iGPU 活动
一款名为 xdna-top 的新终端监控工具已发布，旨在帮助用户可视化 AMD Strix Halo 处理器上 NPU 和 iGPU 的活动。该工具解决了当前跟踪 NPU 性能的难题，因为像 amd-smi 这样的现有工具在此硬件上功能不全。xdna-top 提供了 iGPU 和 NPU 的统一视图，显示实时活动和提交计数器，以提供更清晰的利用率图景。
-
用户脚本提升旧款 AMD GPU 上的 SDXL 性能
一位用户开发了一个脚本，使 Stable Diffusion XL (SDXL) 能够在具有 8GB 显存的旧款 AMD GPU 上更高效地运行。该脚本绕过了 Windows 上存在问题的 DirectML 后端，转而使用原生 ROCm/HIP 支持。此优化显著将每迭代的生成时间从 3.5 秒缩短到 1.6 秒，并将显存使用量减半，从而可以使用节省内存的 GGUF 模型。
-
AMD MI50 GPU 在 Debian 上运行 llama.cpp 时表现强劲
Reddit 的 r/LocalLLaMA 版块的一位用户分享了在 Debian 测试版上运行 llama.cpp 软件的 AMD MI50 GPU 的性能基准测试。使用 llama-benchy 工具和 unsloth/Qwen3.6-35B-A3B-GGUF 模型进行的基准测试显示，Vulkan 后端通常优于 ROCm。具体来说，对于用户的长上下文任务，带有多线程处理 (MTP) 的 Vulkan 取得了最佳结果，实现了更高的每秒…
-
使用自定义 Llama-cpp 设置对 BC250 设备性能进行基准测试
一位 Reddit 用户分享了运行 Fedora 44 和自定义 Llama-cpp 设置的 BC250 设备的性能指标。该用户详细介绍了他们将设备超频至 2Ghz 并解锁 40 个计算单元的过程，这需要编译自定义内核。他们还提到尝试使用 Hipfire 来提高性能，但遇到了 ROCm 版本兼容性问题。
-
Unsloth Studio 添加 Gemma 4 12B、新用户界面和实时工具
Unsloth 发布了一个 Beta 更新 (v0.1.44-beta)，其中包括新的聊天用户界面、项目管理功能以及实验性的画布功能。此次更新还集成了 Google 的 Gemma 4 12B 模型，该模型可以在 8GB RAM 上本地运行，并支持图像、音频和 256K 上下文窗口。此次发布还为 Unsloth Studio 的工具集成带来了重大改进，包括实时工具以及用于网络搜索和 Hugging Face 的内置预设。
-
ROCm 对决 CUDA：选择正确的 AI 开发平台
本文比较了 ROCm 和 CUDA，这是两个主要的 AI 开发平台。文章详细介绍了作者在使用 ROCm 在 AMD GPU 上训练 PyTorch 模型时的个人经历，并强调了遇到的挑战。该文旨在指导用户选择最适合其 AI 训练需求的选择。