Qwen3.6 35B
PulseAugur coverage of Qwen3.6 35B — every cluster mentioning Qwen3.6 35B across labs, papers, and developer communities, ranked by signal.
5 天有情绪数据
-
LLM 用户寻求关于升级到 40B+ 参数模型以提高速度和知识的建议
r/LocalLLaMA subreddit 上的一位用户正在寻求关于拥有超过 400 亿参数的大型语言模型 (LLM) 的推荐。他们目前使用的是 Qwen3.6 35B，但发现它缺乏通用知识，更像一个执行者而不是助手。用户正在考虑升级到 Qwen3.5 122B，但担心速度问题，因为他们在 Strix Halo 硬件上使用 131k 上下文窗口时，目前能达到大约 30-40 tokens/秒。
-
NVIDIA 在 Hugging Face 上发布新的 Nemotron 和 Qwen AI 模型
NVIDIA 发布了包括 Nemotron-3 Nano 30B A3B 和 Qwen 模型量化版本在内的多个新 AI 模型和检查点。这些主要在 Hugging Face 上发布的版本采用 Apache 2.0 许可，并支持文本、图像和视频等多种输入类型。一些用户已计划在代理工作流中测试和比较这些新的 NVIDIA 模型与现有的 Qwen 版本。
-
将自适应MoE门控后验应用于Qwen3.6-35B，效果有限
研究人员为Qwen3.6-35B模型开发了一种后验自适应专家混合（MoE）门控方法，旨在提高效率而无需重新训练。他们的方法作为llama.cpp的推理时补丁实现，对专家路由权重应用累积概率阈值。在Penn Treebank数据集上的实证结果表明，这种后验方法虽然减少了活动专家的数量，但并未显著提高困惑度，与基线固定k模型相比甚至可能略微降低性能。主要贡献在于为生产推理引擎提供了实际实现，并实证证明了将自适应门控应用于预训练的、固定k模型的局限性。
-
Ornith 35B 与 Gemma4 31B 和 Qwen3.6 35B 进行基准测试
新的语言模型 Ornith 35B 使用 WebBrain 的 frozen browser-agent planner benchmark 与 Gemma4 31B 和 Qwen3.6 35B 进行了基准测试。虽然 Ornith 35B 显示出潜力，并在对齐方面略优于 Qwen3.6 35B，但根据测试结果，Gemma4 31B 仍然是更优的选择。
-
多层MoE缓存被讨论为LLM推理的未来方向
Reddit上的一篇讨论探讨了多层专家混合（MoE）缓存的概念，认为这是MoE模型推理的潜在未来方向。该想法涉及将模型专家策略性地分布在CPU和GPU内存中以优化性能，利用了少数专家占大部分激活的观察结果。PowerInfer和Lidenburg的llama.cpp分支等几个现有实现和研究论文被引用为该方法的示例，该方法旨在提高大型模型的推理速度，尤其是在混合RAM/VRAM设置中。
-
用户批评Hermes Agent的UI和UX缓慢且丑陋
一位Reddit r/LocalLLaMA板块的用户对Hermes Agent的用户界面和用户体验表示不满。尽管它承诺了功能并且其他人报告说它很好，但该用户发现其Web UI的美学设计不吸引人，并且包括TUI在内的整体体验都缓慢而乏味。他们将其与Pi mono Agent进行了对比，后者更快、响应更灵敏，可以更快地识别出故障。该用户正在使用Qwen3.6-35B和Gemma4-26B模型来运行Hermes，并正在寻求有关如何改善其使用体验的建议。
-
大语言模型爱好者讨论最佳CPU推理模型和软件
r/LocalLLaMA 子版块的用户正在讨论大语言模型CPU推理的现状。参与者正在寻求关于在消费级硬件上运行这些模型的最佳模型、量化方法以及特定软件版本（如 llama.cpp）的建议。一位用户分享了他在拥有 64GB RAM 和 AVX2 支持的系统上使用 Qwen3.6 35B 的经验，速度约为每秒 10 个 token，并询问是否能获得更好的性能。
-
用户为 Qwen3.6 等本地 LLM 寻求编码工具
一位用户正在寻找与本地大型语言模型 (LLM) 配合良好的编码框架的推荐，特别提到了 Qwen3.6 35B。他们在 GitHub Copilot 上获得了通用的编码辅助方面的成功，但在与大型旧代码库上的 Qwen3.6 35B 配对使用时，遇到了其“代理”功能的问题。用户正在寻找更适合小型、本地运行的 LLM 的替代编辑器或工具。
-
用户寻求使用 MTP 优化 Qwen3.6 MoE 加速
一位 Reddit r/LocalLLaMA 社区的用户正在寻求关于在使用 MTP（Mixture-of-Tensors）优化时 Qwen3.6-35B MoE 模型性能的帮助。尽管遵循了 unsloth 指南并调整了各种标志，用户观察到 MTP 和非 MTP 版本之间的 token 生成速度没有提升。他们在两种情况下都经历了大约每秒 60 个 token 的速度，并正在寻找 MTP 未能提供预期性能提升的原因。
-
LocalLLaMA 用户质疑 MTP 模型 mmproj 文件兼容性
r/LocalLLaMA 子版块的一名用户正在询问 mmproj 文件在 MTP（多轮提示）和非 MTP 模型之间的兼容性。他们具体想知道这些似乎与模型性能相关的文件的可互换使用性。该用户提供了 Qwen3.6-35B 模型的 mmproj 文件示例，并指出了 MTP 和非 MTP 变体之间 kv_count 的差异。
-
Gemma4-26B 在速度上胜过 Qwen3.6-35B，尽管其 token 输出较慢
一位用户在 Radeon 7900 XTX GPU 上比较了 Qwen3.6-35B 和 Gemma4-26B 的性能，发现尽管 Qwen3.6-35B 的 token 发射速率明显更快，但 Gemma4-26B 在端到端任务完成方面速度快了约 20%。这种差异归因于 Qwen 为了回答提示而生成的 token 数量大约是 Gemma 的两倍，其中包括内部推理步骤。用户得出结论，Qwen 由于其解码速度更适合批量处理，而 Gemma …
-
Qwen3.6 模型显示 Markdown 质量最佳，HTML 导致 token 膨胀
一位用户测试了 Qwen3.6 35B 模型，以比较不同格式风格的输出质量和效率：纯文本、Markdown、无样式 HTML 和带样式 HTML。实验表明，虽然 Markdown 在 ChatGPT 5.5 Extended Reasoning 中获得了最佳的整体质量得分，但无样式和带样式的 HTML 格式导致 token 数量显著增加且生成时间更长。纯文本在内容方面 token 效率最高，但缺乏格式。
-
AMD R9700 GPU 运行 Qwen3.6:35b 等本地 LLM 速度惊人
一位用户分享了在配备 32 GB 显存的新 AMD R9700 GPU 设置上运行本地 AI 模型的经验。他们成功地使用 Ollama 和 Openwebui 运行了 Qwen3.6:35b 等模型，并注意到系统的速度令人惊讶。然而，他们也指出 GPU 上的鼓风扇声音过大。
-
Qwen3.6-35B 模型量化显示 FP8 质量不如 INT8，NVFP4 是谎言
Reddit 的 LocalLLaMA 社区的一位用户分享了关于 Qwen3.6-35B 模型的研究结果，重点关注了 Kullback-Leibler (KLD) 散度指标在 INT8、FP8 和 NVFP4 等不同量化格式下的表现。使用修改后的 VLLM 框架进行的分析表明，FP8 和 NVFP4 格式虽然可能速度更快，但质量可能不如 INT8。用户强调，量化格式的选择应与具体用例相匹配，平衡准确性、速度和 GPU 兼容性。