llama.cpp 项目已发布 b9426 版本,解决了当存在 RPC 设备时集成 GPU 被错误跳过的问题。此修复确保了本地 iGPU 不会被忽略,从而防止在依赖它们作为主要计算设备的系统上可能出现的模型加载失败。该更改专门针对设备选择逻辑,以在配置了 RPC 对等方时正确包含 iGPU。 AI
影响 确保在 llama.cpp 框架内更好地利用集成 GPU 进行本地模型推理。
排序理由 这是针对特定工具的软件更新,而不是新的模型发布或重大的行业事件。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →