PulseAugur
中
实时 14:06:24
实体 groxaxo/Qwen3.6-27B-GPTQ-Pro-4bit

groxaxo/Qwen3.6-27B-GPTQ-Pro-4bit

PulseAugur coverage of groxaxo/Qwen3.6-27B-GPTQ-Pro-4bit — every cluster mentioning groxaxo/Qwen3.6-27B-GPTQ-Pro-4bit across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_106079 ·

    开发者详述使用 vLLM 在 24GB 显存上本地部署 Qwen3.6-27B

    一位开发者详细介绍了一个在 24GB 显卡（具体为 RTX 3090）上本地运行 Qwen3.6-27B 模型的配置方案。该配置利用 vLLM 进行高效服务，并采用 GPTQ-Marlin 量化方法来平衡长上下文、稳定的代理行为和可用的解码速度。该方案优先考虑单个高质量代理会话而非并行处理，最大上下文长度为 131,072 个 token。作者还概述了 Hermes 代理与 vLLM 端点交互的具体配置，强调了长超时和启用的思考能力以…