DirectML
PulseAugur coverage of DirectML — every cluster mentioning DirectML across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
通过 Vulkan 在 GPU 上运行神经网络：库、编译器或自定义引擎
本文概述了使用 Vulkan API 在 GPU 上运行已训练神经网络的三种方法。它建议集成现有的库，如 TensorFlow Lite 或 ONNX Runtime，通过 ML 编译器（如 IREE 或 TVM）编译模型，或使用计算着色器开发自定义推理引擎以实现深度 Vulkan 集成。
-
用户脚本提升旧款 AMD GPU 上的 SDXL 性能
一位用户开发了一个脚本，使 Stable Diffusion XL (SDXL) 能够在具有 8GB 显存的旧款 AMD GPU 上更高效地运行。该脚本绕过了 Windows 上存在问题的 DirectML 后端，转而使用原生 ROCm/HIP 支持。此优化显著将每迭代的生成时间从 3.5 秒缩短到 1.6 秒，并将显存使用量减半，从而可以使用节省内存的 GGUF 模型。
-
Python 项目实现本地、GPU 加速的 AI 背景移除
一个名为 bg-vanish-mcp 的新开源项目已发布，支持 AI 助手在本地进行图像背景移除。该工具利用 Python、通过 ONNX Runtime 的 DirectML API 以及 U2NET 模型，在 Windows 上实现 GPU 加速，为云服务提供了更快、更私密的替代方案。该项目可通过 PyPI 获取，其代码可在 GitHub 上找到，允许用户将离线背景移除功能集成到其 AI 工作流程中。
-
开发者使用 Vulkan 在 50 美元的 AMD RX 580 GPU 上运行 LLMs
一位开发者展示了如何在拥有 8GB 显存的旧款 AMD RX 580 GPU 上运行大型语言模型和图像生成软件，这在以前被认为是不可能的壮举。通过利用为 ggml 项目（支持 llama.cpp 和 stable-diffusion.cpp 等工具）提供的 Vulkan 后端，该开发者实现了比仅使用 CPU 处理高出 3-4 倍的性能。这种方法绕过了对 CUDA、ROCm 或 DirectML 的需求，证明了现代 AI 任务可以在更普…
-
指南展示如何在旧款 AMD RX 580 GPU 上使用 Vulkan 运行 LLMs
一份技术指南演示了如何在旧款 AMD RX 580 显卡上运行大型语言模型 (LLMs)，这些显卡此前被认为在 AI 任务中已过时。该方法利用原生 Vulkan，无需 CUDA 或 ROCm，并采用双架构方法。这包括通过 Vulkan 加速在 GPU 上运行较小的模型，以及在 CPU 上运行更大、更复杂的模型，NVMe 存储被认为是缩短模型加载时间的关键因素。