实体
NFKB2
NFKB2
PulseAugur coverage of NFKB2 — every cluster mentioning NFKB2 across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天
2 天有情绪数据
最近 · 第 1/1 页 · 共 3 条
-
用户为大语言模型构建配备四块 P100 GPU 的定制 PC
Reddit r/LocalLLaMA 版块的一位用户详细介绍了为运行大语言模型而构建的定制计算系统的组装过程。该系统目前使用了四块 NVIDIA P100 GPU，并计划扩展到六块。初步性能测试显示，其每秒可处理约 50 个 token，处理能力（PP）约为 530-550。
-
老款 NVIDIA GPU 在现代 AI 工作负载下展现出惊人价值
一项为期一年的项目，对 15 款退役的 NVIDIA 企业级 GPU 在现代 AI 工作负载下的表现进行了基准测试，结果显示 V100 (16GB) 提供了强大的性价比，可与更昂贵的显卡相媲美。特别是在大型语言模型方面，P40 的表现优于 P100，而 M60 在 Whisper 等音频转录任务上表现出色。研究还发现，只要 GPU 代际相似，性能会随着 GPU 数量的增加而线性扩展，并且拥有高通道数 Xeon 处理器的老款 X99 主…
-
为本地 LLM 推理寻求预算 GPU 建议
一位用户在 r/LocalLLaMA 子版块上寻求关于在预算有限的情况下购买硬件以运行大型语言模型的建议。他们正在考虑购买一张拥有 32GB 显存的 Radeon VII，或者两张提供总计 48GB 显存的 P100 GPU，两者价格相似。用户正在权衡更多显存和更快推理速度之间的取舍，特别是询问更高的显存对于 Q8 量化的专家混合（MoE）模型是否有用，并寻求其他合适的 MoE 模型推荐。