实体
NVIDIA P40
NVIDIA P40
PulseAugur coverage of NVIDIA P40 — every cluster mentioning NVIDIA P40 across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
Qwen3.6-35B 模型在单个 P40 GPU 上实现 100k 上下文
Reddit 的 r/LocalLLaMA 子版块的一位用户分享了在单个 NVIDIA P40 GPU 上运行的 Qwen3.6-35B 模型的令人印象深刻的性能指标。通过使用 llama.cpp 的 TheTom 的 TurboQuant 分支并禁用视觉组件，该用户实现了 100k 的上下文窗口和每秒 80 个 token 的速度。此设置经过优化，可在旧硬件上最大化性能，同时保持代理可用性。
-
本地 LLM 用户权衡 RTX 30 系列与 P40 GPU 以获得显存
一位 r/LocalLLaMA 子版块的用户正在寻求建议，询问是否应该用他们的 RTX 3080 和 RTX 3070 GPU 换取两块 NVIDIA P40 卡。主要关注点是优化运行本地大型语言模型的性能，特别是对于显存超过 10GB 的模型，尽管 P40 的 24GB 容量在较小模型上可能存在速度差异，但仍可能提供优势。用户还注意到混合 GPU 架构可能存在的问题，并正在为他们的特定用例（包括运行 Hermes 代理和测试新的大型…