PulseAugur
实时 13:33:03

llama.cpp 发布 b9500 版本,支持广泛的操作系统和硬件

llama.cpp 项目发布了 b9500 版本,为各种操作系统和硬件架构提供了预编译的二进制文件。此次发布支持 macOS(Apple Silicon 和 Intel)、Linux(CPU、Vulkan、ROCm、OpenVINO)、Android 和 Windows(CPU、CUDA、Vulkan、HIP)。一些实验性功能,如 KleidiAI 和 SYCL 支持,在此版本中已暂时禁用。 AI

影响 支持在各种硬件和操作系统上更广泛地本地部署大型语言模型。

排序理由 这是一个用于本地运行大型语言模型的工具的软件发布,而不是核心人工智能模型发布或研究论文。

在 llama.cpp — Releases 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

llama.cpp 发布 b9500 版本,支持广泛的操作系统和硬件

报道来源 [1]

  1. llama.cpp — Releases TIER_1 (SO) · github-actions[bot] ·

    b9500

    <details open=""> <p>metal : reduce rset heartbeat from 500ms -&gt; 5ms (<a class="issue-link js-issue-link" href="https://github.com/ggml-org/llama.cpp/pull/24074">#24074</a>)</p> </details> <p><strong>macOS/iOS:</strong></p> <ul> <li><a href="https://github.com/ggml-org/llama.c…