SergiioB

Qwen 3.8 在 Intel Arc Pro B70 硬件上的 Helm chart 已发布

一位用户为 Qwen 3.8 模型创建了一个 Helm chart，专门为拥有 Intel Arc Pro B70 硬件的用户量身定制。该 chart 将补丁集成到固定的 vLLM 版本中，使用户能够在 128k 上下文窗口下实现每秒 40-70 个 token 的推理速度。该项目在 GitHub 上可用，建立在现有 Intel Arc Pro B70 推理工作的基础上。