PulseAugur
中
实时 20:59:49
Italiano(IT) Non nvidia cards.

LLaMA 用户讨论英特尔/AMD GPU 用于推理而非英伟达

作者 PulseAugur 编辑部 · [1 个来源] ·

r/LocalLLaMA subreddit 上的一位用户正在寻求关于使用非英伟达 GPU 进行本地大型语言模型推理的建议。他们目前拥有 RTX Pro 6000 和 RTX 5090 显卡，并考虑通过增加 GPU 来扩展他们的服务器，特别关注英特尔和 AMD 选项，因为它们每美元的显存更高。用户正在询问在这些替代硬件平台上与成熟的英伟达/CUDA 生态系统相比，推理性能的经验和比较。 AI

影响 探讨在本地运行 LLM 的硬件选择，影响个人运营商的成本和性能。

排序理由 用户讨论用于 LLM 推理的硬件。

在 r/LocalLLaMA 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

LLaMA 用户讨论英特尔/AMD GPU 用于推理而非英伟达

报道来源 [1]

  1. r/LocalLLaMA TIER_1 Italiano(IT) · /u/AdSafe4047 ·

    非英伟达显卡

    <!-- SC_OFF --><div class="md"><p>Hi, I'm a happy owner of a serer with rtx pro 6000 and rtx5090. I want to build out in the future the server fully to a higher vram score - think adding around 4-5 cards if possible. I was wondering if it's worth going through the intel/amd cards…

相关实体

相关话题