3090
PulseAugur coverage of 3090 — every cluster mentioning 3090 across labs, papers, and developer communities, ranked by signal.
8 天有情绪数据
-
NInfer 分叉版在 CMP170HX 硬件上实现了 Qwen3.6-35B 性能翻倍
一位用户成功分叉了 NInfer 项目，使其能够在 CMP170HX 硬件上运行，并为 Qwen3.6-35B 模型实现了两倍的性能提升。此修改涉及调整 CUDA 内核和编译器标志，以适应 CMP170HX 的特定架构，这与它最初基于的 RTX 3090 不同。用户强调了本地 AI 社区其他开发者的贡献，并详细介绍了为实现这一性能提升所克服的技术挑战，包括内核启动大小错误和工作区大小调整。
-
用户寻求帮助以优化 llama.cpp 的多 GPU 大型语言模型推理
Reddit r/LocalLLaMA 版块的一名用户正在寻求帮助，以配置 llama.cpp 来有效利用多个 GPU 运行大型语言模型。他们在尝试将一个 120GB 的 Deepseek4 flash 模型分配到 Blackwell 5000 (48GB) 和 3090 (24GB) GPU 上时遇到了性能问题，并注意到性能没有如预期般提升，有时甚至会下降。用户详细介绍了他们的设置、模型大小以及尝试过的各种命令行标志组合，包括不同的…
-
本地 LLM 执行不保证本地数据路径
在本地运行大型语言模型并不保证所有相关数据都保留在受控环境中。即使模型本身在本地硬件上执行，敏感数据仍可能通过检索增强生成 (RAG) 系统、日志、备份或管理访问点等组件暴露。工程师和安全团队必须仔细追踪整个数据路径，考虑多个处理、存储和访问层，而不仅仅关注模型的执行位置。这种全面的方法对于遵守 GDPR 等法规以及美国律师协会正式意见 512 中概述的专业义务至关重要。
-
双 3090 GPU 通过切换分割模式在 Qwen 3.6 27B 上实现 1600+ tps
Reddit 的 r/LocalLLaMA 社区的一位用户分享了他在双 3090 GPU 设置上优化 Qwen 3.6 27B 模型性能的经验。最初，使用 `--split-mode tensor` 导致提示处理在 CPU 上进行，每秒 token 处理量（tokens-per-second）仅为 400 左右。经过大量测试，用户发现切换到 `--split-mode layer` 可显著提高性能，将每秒 token 处理量提升至 1…
-
更换GPU导热膏可显著提升散热效果
一位Reddit r/LocalLLaMA板块的用户发布了一条关于维护旧款GPU的公告，特别提到了3090型号。他们详细介绍了更换GPU导热膏如何将温度显著降低了10摄氏度。这种改进带来了更安静的风扇运行，并强调该过程是维护硬件性能的一种廉价快捷的方式，同时提醒用户在操作过程中要小心。
-
DSv4 Flash 0731 模型在单块 NVIDIA 3090 GPU 上运行
一位用户成功地在单块未优化的 NVIDIA 3090 显卡上运行了 DSv4 Flash 0731 模型。该设置包括一块 E5 2690v4 CPU 和 3x32 DDR4 ECC RAM，3090 的功耗为 250W。模型在生成时达到了稳定的 5.45 tokens/秒，在提示处理时达到了 42 tokens/秒，考虑到硬件限制，用户认为这是可以接受的。
-
RTX 3090 用户分享 AI 负载下的显存温度
r/LocalLLaMA 子版块的用户正在讨论 NVIDIA RTX 3090 显卡在运行大型语言模型时的显存温度。原帖发帖人希望确定其 GPU 在 AI 负载下的温度是否在健康范围内。其他用户正在分享他们自己的显存温度读数以提供比较数据。
-
RTX Pro 4500：评估其用例与更高功率 GPU 的对比
NVIDIA RTX Pro 4500 显卡正在被讨论其潜在用例，特别是在与其他配置（如 RTX 5090 或多块 RTX 3090）的比较中。用户对其价值主张提出疑问，因为其功耗和性能相对于其价位较低，正在寻求其在持续运行和能效之外的采用理由。
-
用户寻求为4x 3090 GPU配置推荐AI模型
一位用户拥有配备四块NVIDIA 3090 GPU和96GB显存的服务器，正在寻求运行哪个AI模型的建议。他计划将服务器用作个人AI实验场，用于想法实现和原型开发，并可能支持少量额外用户。用户还考虑将两块GPU专门用于语音代理的语音和文档处理服务。
-
用户升级到双 3080 20GB GPU 以进行本地 LLM 任务
Reddit r/LocalLLaMA 版块的一名用户分享了他们最近购买了两块 3080 20GB 显卡。他们以低于单块 3090 的价格购买了这些显卡，旨在升级他们当前的 3090 设置。该用户计划出售他们的 3090，并指出当前价格虚高使得现在是出售的绝佳时机。
-
Qwen3.6 27B 模型实现 219 tokens/sec 解码速度
一位用户在使用 Qwen3.6 27B 模型时达到了新的个人解码速度记录，在单个 3090 GPU 上达到了每秒 219 个 token。这超过了他们之前每秒 206 个 token 的记录。用户还注意到 KV 缓存量化对模型质量的显著影响，这表明他们在编码模型方法上的转变。
-
AI爱好者寻求GPU升级建议以运行大型模型
一位用户在 r/LocalLLaMA 子版块上寻求关于升级其GPU设置以适应更大AI模型的建议，特别提到了 DeepSeek V4。他们正在考虑在其现有的双3090配置中添加两块每块配备48GB内存的修改版4090、两块A6000或两块5090。该用户正在寻找关于混合设置的见解，以及哪种选择最能让他们运行需要超过100GB文件空间的模型。
-
NVIDIA Puzzle-75B-A9B 模型在消费级 GPU 上实现高性能
r/LocalLLaMA 上的一位用户详细介绍了他们使用 NVFP4 量化在三块 NVIDIA 3090 GPU 上运行 Nemotron-3-Puzzle-75B-A9B 模型的经验。该设置在 256K 上下文窗口和 FP8 KV 缓存下实现了每秒 132 个 token 的速度，功耗约为 500W。这种配置有效地利用了可用的 VRAM，以堪比小型模型的速度提供了密集类别的质量，而用户指出该细分市场在当前市场上却服务不足。
-
用户称赞Qwen 27B模型在3090 GPU上实现200K上下文
一位Reddit用户在r/LocalLLaMA子版块发布了一个感谢帖，表达了对他们设置的满意度。他们正在新的3090 GPU上运行具有200K上下文窗口的Qwen 27B模型。用户特别推荐了GitHub上的“club 3090配置”，并感谢社区的支持。
-
Reddit上讨论3090 GPU的Krea2训练速度
Reddit上的用户正在讨论Krea2的训练速度，Krea2是一个可能与AI图像生成相关的工具，运行在NVIDIA的3090显卡上。一位用户报告称，在优化VRAM的情况下，512px分辨率下的迭代速度为6-7秒，并询问是否可能进一步提高速度。
-
本地LLM用户寻求关于最大化编码任务上下文窗口的建议
一位用户在 r/LocalLLaMA 子版块上寻求关于最大化本地LLM使用上下文窗口大小的建议，特别是针对编码任务。他们目前在单块3090 GPU（24GB显存）上使用Qwen 3.6 27B模型，在启动程序消耗24K后，其有效上下文窗口限制在34K个token左右。该用户正在探索在上下文空间和处理能力方面获得更高“性价比”的选项，并考虑是等待更强大的硬件还是优化当前设置。
-
NVIDIA 3090 GPU 卡在高空闲功耗状态
一位 Reddit r/LocalLLaMA 社区的用户遇到问题，他们的 NVIDIA 3090 显卡未能恢复到空闲功耗状态。尽管之前的驱动程序更新改善了空闲功耗，但其中一张 3090 在没有活动的情况下卡在了更高的瓦特数。用户正在寻找一种无需重启系统即可安全重置显卡功耗状态的方法。
-
Krea2 Turbo FP8 模型在字符识别和性能方面进行测试
用户正在测试 Krea2 Turbo FP8 模型，并注意到其性能和字符识别能力。一项广泛的测试涉及超过 1000 个提示，以评估模型识别各种媒体中字符的能力，发现它在识别流行人物方面表现良好，但在识别更小众人物方面表现有所不同。基准测试表明，在 3090 GPU 上，int8 精确度版本比 FP8 版本快约 1.9 倍，图像质量相当。然而，一些用户更喜欢 klein9b 等其他模型，因为其编辑能力。
-
用户询问 11 个 3090 GPU 的显存是否足以运行 Qwen LLM
一位 Reddit r/LocalLLaMA 社区的用户正在询问运行 Qwen 大型语言模型所需的显存。他们列出了自己拥有的硬件，包括十一块 3090 GPU、一块 5090 GPU 和一块 5060 Ti GPU，并询问此配置是否足够。
-
用户哀叹 3090 GPU 故障，高级模型能力丧失
一位用户在 r/LocalLLaMA 子版块发帖称，他们的 3090 GPU 已经损坏。他们对此表示失望，特别提到无法再运行具有 BF16 精度和 KV 缓存的大型模型，并哀叹故障发生在周末开始之际。