llama.cpp 项目发布了 b9500 版本,为各种操作系统和硬件架构提供了预编译的二进制文件。此次发布支持 macOS(Apple Silicon 和 Intel)、Linux(CPU、Vulkan、ROCm、OpenVINO)、Android 和 Windows(CPU、CUDA、Vulkan、HIP)。一些实验性功能,如 KleidiAI 和 SYCL 支持,在此版本中已暂时禁用。 AI
影响 支持在各种硬件和操作系统上更广泛地本地部署大型语言模型。
排序理由 这是一个用于本地运行大型语言模型的工具的软件发布,而不是核心人工智能模型发布或研究论文。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →