Qwen 3.6:35B
PulseAugur coverage of Qwen 3.6:35B — every cluster mentioning Qwen 3.6:35B across labs, papers, and developer communities, ranked by signal.
- 2026-05-24 product_launch Release of the uncensored Genesis APEX MTP version of the Qwen 3.6-35B model. 来源
1 天有情绪数据
-
LLM社区呼吁紧急发布80-160B参数模型
r/LocalLLaMA子版块的用户正在表达对80-1600亿参数范围内新的大型语言模型(LLM)的强烈需求。现有模型要么对于拥有高容量但速度较慢的统一内存系统(如Apple设备或AMD Ryzen AI 395)的用户来说太小,要么对于VRAM有限的用户来说太大。社区要求能够有效利用80-128GB RAM或64GB VRAM的系统运行的模型,因为现有选项要么过时,要么不适合他们的硬件配置。
-
AI系统ACIE在临床数据提取中达到96.5%的准确率
一种名为ACIE的新型Agentic检索增强生成(RAG)系统已在埃森大学医学中心开发并部署,用于临床信息提取。该系统通过处理复杂的患者数据、时间推理和跨文档依赖性,解决了标准RAG的局限性。在一项回顾性淋巴瘤登记研究中,ACIE在超过7000项判断中获得了核医学医生96.5%的接受率,证明了其在准确提取和验证临床信息方面的有效性。
-
Qwen 3.6 35B 模型可在消费级硬件上运行,支持 32k 上下文
一位 Reddit 用户分享了他在消费级硬件上运行 Qwen 3.6 35B 模型的经验,该配置包括一块 RTX 3080 GPU 和 32GB RAM。在 32k 的上下文长度下,他实现了 26 tokens/秒的生成吞吐量和 1400 tokens/秒的处理吞吐量。虽然将 KV 缓存卸载到 GPU 可以将生成速度提高到 56 tokens/秒,但这会限制上下文窗口,不适合他涉及深度研究和文档处理的代理工作。
-
Cohere发布North-Mini-Code-1.0编码模型
Cohere发布了North-Mini-Code-1.0,一个拥有300亿参数的编码模型。虽然其通用人工智能分析得分低于某些竞争对手,但在编码基准测试中表现具有竞争力。该模型可在Hugging Face上供用户下载和使用。
-
Qwen 3.6 35B 模型在代理任务中凭借 KV Cache 表现出色
r/LocalLLaMA 上的一位用户发现,在使用 KV Cache 时,Qwen 3.6 35B 模型在代理任务上的表现明显优于 27B 版本。该用户最初因为感知到的智能和速度而偏爱 27B 模型,但遇到了上下文溢出问题。切换到使用未量化的 KV Cache 的 35B 模型解决了这些问题,从而实现了更快、更有效的任务完成。用户还注意到,为了更好地管理上下文,已从 LM Studio 转向 llama.cpp。
-
DDR5 带宽成为 AMD APU 双 LLM 推理的瓶颈
一位开发者的实验表明,AMD APU 上的 DDR5 带宽严重限制了同时运行多个大型语言模型(LLM)的性能。尽管像 Qwen 3.6:35B 这样拥有 350 亿参数的模型,在每个 token 上似乎只使用了其参数的一小部分,但其实际推理速度受到共享内存带宽的限制,使其性能与较小模型相当。这一发现导致在尝试在同一硬件上并发运行两个模型时,由于性能下降而放弃了多模型代理架构。
-
Qwen 3.6-35B 模型发布了无审查的 Genesis APEX MTP 版本
Qwen 3.6-35B 模型的新无审查版本 Genesis APEX MTP 已发布。该模型性能令人印象深刻,能够处理高达 200k 的上下文而不会出现故障,并成功管理复杂的交叉任务。它为 Apple MLX 转换提供 safetensors 支持,并推荐 APEX 和 MTP-APEX 等特定量化方法以获得最佳使用效果。
-
LM Studio 添加 MTP 推测解码,加速本地 LLM 推理
LM Studio 已更新至 0.4.14 Build 2 (Beta) 版本,集成了 MTP 推测解码以加速本地大型语言模型推理。此功能通过同时预测多个 token 来实现更快的文本生成,使本地 AI 交互更加流畅。此外,Qwen 3.6 35B 模型的新 GGUF 量化版本已发布,并提供了 MTP 和 NTP 在不同硬件上性能的基准测试对比,为用户优化本地 LLM 部署提供数据。
-
Qwen 3.6 27B 模型展现出强大的本地编码能力
Qwen 3.6 27B 模型已展现出令人印象深刻的编码能力,成为首个在参数量不足百亿的情况下,能在 Codex 任务上以最少提示进行良好表现的本地模型。虽然 Qwen 3.6 35B 版本速度更快,但在有效处理工具调用方面仍需要用户更多的干预。
-
BeeLlama.cpp、Qwen 3.6 和 iOS 应用为本地 LLM 加速
本地 LLM 推理的新进展包括 BeeLlama.cpp,它是 llama.cpp 的一个分支,通过 DFlash 和 TurboQuant 等技术显著提升了性能并增加了多模态能力。另外,Qwen 3.6 35B 模型在消费级 GPU 上仅用 12GB VRAM 就展示了令人印象深刻的速度和上下文处理能力,在 128K 上下文下达到了每秒 80 个 token。此外,一个名为 Priv AI 的开源 iOS 应用已发布,允许用户通过 …