实体
RX 6800
RX 6800
PulseAugur coverage of RX 6800 — every cluster mentioning RX 6800 across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天
2 天有情绪数据
最近 · 第 1/1 页 · 共 3 条
-
本地LLM用户权衡AMD GPU升级以提升llama.cpp性能
一位用户正在寻求关于升级GPU配置的建议，以便使用llama.cpp在本地运行大型语言模型。他们正在考虑用一块RX 6800 16GB和一块RX 6800 XT 16GB（总计32GB显存）替换掉两块RTX 2060 12GB显卡（总计24GB显存）。用户担心在llama.cpp中，这种混合AMD配置在ROCm或Vulkan支持以及与当前CUDA配置相比的整体令牌生成速度方面会产生性能影响。
-
本地 LLM 用户询问双 AMD GPU 设置以获得 40GB 显存
一位用户正在寻求建议，关于在现有的 7900 XTX 24GB 设置中添加第二块显卡 RX 6800 16GB 是否有利于在本地运行大型语言模型。他们特别关注 PCIe x2 连接的性能影响，以及与卸载到系统内存相比如何。用户想知道大约 40GB 显存可以运行哪些特定模型大小或量化级别，并正在寻找实际基准测试，尤其是在混合 AMD GPU 的情况下。
-
为本地 LLM 推理寻求预算 GPU 建议
一位用户在 r/LocalLLaMA 子版块上寻求关于在预算有限的情况下购买硬件以运行大型语言模型的建议。他们正在考虑购买一张拥有 32GB 显存的 Radeon VII，或者两张提供总计 48GB 显存的 P100 GPU，两者价格相似。用户正在权衡更多显存和更快推理速度之间的取舍，特别是询问更高的显存对于 Q8 量化的专家混合（MoE）模型是否有用，并寻求其他合适的 MoE 模型推荐。