实体
Qwen3.6-35B-A3B-UD-Q4_K_M
Qwen3.6-35B-A3B-UD-Q4_K_M
PulseAugur coverage of Qwen3.6-35B-A3B-UD-Q4_K_M — every cluster mentioning Qwen3.6-35B-A3B-UD-Q4_K_M across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
llama.cpp 添加 GDN 分块内核，LLM 推理速度提升高达 20% · 跟踪 1 个来源
llama.cpp 项目的一个拉取请求引入了一个新的“GDN 分块内核”，显著提高了各种硬件配置的推理性能。基准测试显示，在使用不同的提示词 token 长度和量化级别时，Qwen3.5-35B 和 Qwen3.8-27B 等模型的性能提升范围从 3.4% 到超过 20.6%。此优化针对 CUDA 和异构集成平台 (HIP) 架构，旨在提高本地大型语言模型部署的效率。
-
自托管服务器使用Qwen3.6 LLM在经济型硬件上实现每秒63个token
一位用户报告称，在太阳能供电的自托管服务器上运行Qwen3.6-35B-A3B-UD-Q4_K_M大型语言模型取得了积极成果。该设置利用了配备三块2080 Ti GPU的旧DDR3硬件，实现了约每秒63个token的速度，且无每个token的成本。这展示了一种经济高效且高效的本地运行先进AI模型的方法。