3090
PulseAugur coverage of 3090 — every cluster mentioning 3090 across labs, papers, and developer communities, ranked by signal.
8 天有情绪数据
-
NVIDIA Puzzle-75B-A9B 模型在消费级 GPU 上实现高性能
r/LocalLLaMA 上的一位用户详细介绍了他们使用 NVFP4 量化在三块 NVIDIA 3090 GPU 上运行 Nemotron-3-Puzzle-75B-A9B 模型的经验。该设置在 256K 上下文窗口和 FP8 KV 缓存下实现了每秒 132 个 token 的速度，功耗约为 500W。这种配置有效地利用了可用的 VRAM，以堪比小型模型的速度提供了密集类别的质量，而用户指出该细分市场在当前市场上却服务不足。
-
用户称赞Qwen 27B模型在3090 GPU上实现200K上下文
一位Reddit用户在r/LocalLLaMA子版块发布了一个感谢帖，表达了对他们设置的满意度。他们正在新的3090 GPU上运行具有200K上下文窗口的Qwen 27B模型。用户特别推荐了GitHub上的“club 3090配置”，并感谢社区的支持。
-
Reddit上讨论3090 GPU的Krea2训练速度
Reddit上的用户正在讨论Krea2的训练速度，Krea2是一个可能与AI图像生成相关的工具，运行在NVIDIA的3090显卡上。一位用户报告称，在优化VRAM的情况下，512px分辨率下的迭代速度为6-7秒，并询问是否可能进一步提高速度。
-
本地LLM用户寻求关于最大化编码任务上下文窗口的建议
一位用户在 r/LocalLLaMA 子版块上寻求关于最大化本地LLM使用上下文窗口大小的建议，特别是针对编码任务。他们目前在单块3090 GPU（24GB显存）上使用Qwen 3.6 27B模型，在启动程序消耗24K后，其有效上下文窗口限制在34K个token左右。该用户正在探索在上下文空间和处理能力方面获得更高“性价比”的选项，并考虑是等待更强大的硬件还是优化当前设置。
-
NVIDIA 3090 GPU 卡在高空闲功耗状态
一位 Reddit r/LocalLLaMA 社区的用户遇到问题，他们的 NVIDIA 3090 显卡未能恢复到空闲功耗状态。尽管之前的驱动程序更新改善了空闲功耗，但其中一张 3090 在没有活动的情况下卡在了更高的瓦特数。用户正在寻找一种无需重启系统即可安全重置显卡功耗状态的方法。
-
Krea2 Turbo FP8 模型在字符识别和性能方面进行测试
用户正在测试 Krea2 Turbo FP8 模型，并注意到其性能和字符识别能力。一项广泛的测试涉及超过 1000 个提示，以评估模型识别各种媒体中字符的能力，发现它在识别流行人物方面表现良好，但在识别更小众人物方面表现有所不同。基准测试表明，在 3090 GPU 上，int8 精确度版本比 FP8 版本快约 1.9 倍，图像质量相当。然而，一些用户更喜欢 klein9b 等其他模型，因为其编辑能力。
-
用户询问 11 个 3090 GPU 的显存是否足以运行 Qwen LLM
一位 Reddit r/LocalLLaMA 社区的用户正在询问运行 Qwen 大型语言模型所需的显存。他们列出了自己拥有的硬件，包括十一块 3090 GPU、一块 5090 GPU 和一块 5060 Ti GPU，并询问此配置是否足够。
-
用户哀叹 3090 GPU 故障，高级模型能力丧失
一位用户在 r/LocalLLaMA 子版块发帖称，他们的 3090 GPU 已经损坏。他们对此表示失望，特别提到无法再运行具有 BF16 精度和 KV 缓存的大型模型，并哀叹故障发生在周末开始之际。
-
2026年，GTX 1080 Ti等老旧GPU可运行12B大语言模型
一项最新分析表明，到2026年，老旧GPU（特别是11GB显存的GTX 1080 Ti）仍能有效运行大语言模型。通过在Ollama中使用量化感知训练和闪电注意力（flash-attention）等技术，高达120亿参数的模型可以达到约每秒30个token的可用速度，并完全载入GPU显存。虽然更大模型或需要CPU分载的模型速度会显著下降，但这表明即使是预算有限、使用老旧硬件的用户也能参与本地大语言模型推理。
-
用户为 Qwen LLM 双 GPU 配置实现近乎线性扩展
Reddit r/LocalLLaMA 论坛上一位用户报告称，通过为他们的设置增加第二块 GPU，实现了近乎线性的性能扩展。在使用 Qwen 3.6-27B-autoround-int4 模型时，将 GPU 从一块增加到两块，在叙事和代码任务的解码吞吐量方面都有显著提升。即使没有 NVLink，利用张量并行和 P2P 通信也观察到了这种改进。
-
本地 LLM 用户对 Qwen 27B 模型内存使用情况提出疑问
一位用户在本地运行大型语言模型时遇到了意外的内存（RAM）使用情况，尽管他们期望上下文缓存主要由显存（VRAM）处理。他们正在使用 Qwen 27B 模型，配合 llama.cpp 和一个内存扩展。用户注意到，随着上下文缓存的填充，系统内存（RAM）显著增加。用户希望了解内存（RAM）是否应该用于缓存，以及在推理过程中是什么进程导致了内存（RAM）消耗的增加。
-
用户发现 8GB 显存的提升极大地改善了本地 LLM 的性能
一位用户在 r/LocalLLaMA subreddit 上分享了他们通过添加一块旧的 2070 Super GPU 来升级本地 AI 设置的经验。这个看似微小的添加显著改善了他们运行 Qwen3.6-27B 等具有长上下文的模型的能力，并实现了令人印象深刻的生成速度。用户发现，与原始处理能力相比，增加显存对他们的工作流程影响更大，这促使他们考虑购买更强大的 GPU，如 3090。
-
Reddit 用户分析 GPU 规格以实现 LLM 预填充性能
r/LocalLLaMA 上的一个 Reddit 用户分析了各种 GPU 和机器在运行大型语言模型方面的适用性，强调了预填充性能相对于原始生成速度的重要性。分析表明，虽然像 3090 这样的高端 GPU 对于单流使用来说可能有点过头，但像 P100 这样的旧卡因其内存和带宽而具有显著价值。用户还指出，与其它选项相比，Mac Studio 定价过高且效率低下，并正在寻求用户提交的功耗数据以进一步完善其性能图表。
-
用户寻求帮助优化 llama.cpp 服务器中的 MTP
一位 Reddit 用户正在寻求有关在 llama.cpp 服务器中实现“draft-mtp”（多轮提示）功能的帮助。他们下载了一个特定的模型 Qwen3.6-35B-A3B-MTP-GGUF，并尝试启用 MTP 标志来运行它。初步基准测试显示，启用 MTP 后令牌生成速度有所下降，用户正在询问可能的原因以及提高草稿接受率的方法。
-
启用MTP后Qwen 27B模型上下文窗口缩小
Reddit r/LocalLLaMA板块的一名用户在使用Qwen 27B模型并启用MTP（多轮提示）时，遇到了上下文窗口大小显著缩减的问题。尽管该模型报告的上下文窗口为137k，但通过特定命令行参数（`spec-type draft-mtp --spec-draft-n-max 2`）启用MTP后，有效上下文大小会降至14k。用户正在寻求确认这种大幅缩减是否是预期行为。
-
Reddit 用户认为自托管 LLM 比云端更贵
一位 Reddit 用户认为，自托管大型语言模型在经济上并不比基于云的解决方案便宜。他们计算得出，他们的个人设备成本约为 2800 美元，并且消耗大量电力，但每 token 的成本高于租用 H100 等云 GPU。用户得出结论，自托管的主要动机是隐私、控制和折腾的愿望，而不是节省成本。
-
AI硬件讨论强调集成而非GPU价格；开发工具快速创新
关于AI硬件的讨论表明，仅仅比较GPU价格，例如建议使用四块RTX 6000或八块3090作为DGX Spark的替代方案，会忽略诸如外形尺寸、集成和操作简便性等关键因素。另外，AI开发工具的快速创新显而易见，最近的一项竞赛收到了200多个项目提交，突显了AI工具领域快速发展的态势。