llama.cpp 项目发布了 b12414 版本,其中包括对 CUDA 和 HIP(异构集成平台)的重构,以更好地利用 warp 原语。此次更新还将 ROCm 的版本要求提高到 6.3,并引入了可选的 top-k warp 功能。 AI
影响 提高了在特定硬件配置上运行大型语言模型用户的性能和灵活性。
排序理由 这是针对特定项目的软件更新,不是前沿发布或重要的行业事件。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
llama.cpp 项目发布了 b12414 版本,其中包括对 CUDA 和 HIP(异构集成平台)的重构,以更好地利用 warp 原语。此次更新还将 ROCm 的版本要求提高到 6.3,并引入了可选的 top-k warp 功能。 AI
影响 提高了在特定硬件配置上运行大型语言模型用户的性能和灵活性。
排序理由 这是针对特定项目的软件更新,不是前沿发布或重要的行业事件。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
完整方法见我们的编辑标准。
<p>Uses the rocm-native primitives, increases the rocm version requirement to 6.3 and makes top-k selectable warp.</p>