一位用户正在寻求建议，询问其为本地AI工作负载选择两块Radeon R9700 GPU是否是错误之举，与NVIDIA的产品相比。他们担心AMD的ROCm平台与NVIDIA的CUDA相比，在运行大型语言模型（LLMs）方面的成熟度和兼容性，目标是实现最佳性能和质量。 AI
影响 考虑为本地AI开发选择AMD硬件的用户，与NVIDIA的CUDA生态系统相比，可能会面临兼容性和性能方面的挑战。
排序理由 用户查询，寻求关于AI工作负载硬件选择的建议。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
<!-- SC_OFF --><div class="md"><p>Hello together</p> <p>I decided to go with 2× Radeon AI PRO R9700 GPUs (64 GB total VRAM) for my local AI server. However, I keep reading that AMD/ROCm is still not as mature as NVIDIA/CUDA when it comes to running local LLMs.</p> <p>Is running l…