实体
OpenBLAS
OpenBLAS
PulseAugur coverage of OpenBLAS — every cluster mentioning OpenBLAS across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
指南：在 Debian 上编译 llama.cpp LLM 运行时，并交叉编译 ARM64
本技术指南详细介绍了如何在 Debian Linux 上编译和交叉编译 llama.cpp 项目，这是一个基于 C/C++ 的 LLM 推理运行时。它涵盖了 x86-64 和 ARM64 等各种架构的本地构建，包括与 OpenBLAS 的可选集成以提高性能。该指南还提供了从 x86-64 机器交叉编译到 ARM64 目标设备的步骤说明，这对于在 Raspberry Pi 或 Orange Pi 等设备上部署至关重要。
-
llama.cpp 通过 OpenBLAS 构建获得 28% 的上下文容量提升
Reddit r/LocalLLaMA 版块的一名用户发现，在编译 llama.cpp 软件时，除了 Vulkan 支持外，增加 OpenBLAS 支持可以显著增加上下文窗口大小。在使用 Qwen 3.6 27B 模型时，上下文窗口从大约 87,808 个 token 扩展到 112,896 个 token。该用户正在调查这是否是预期行为、一个 bug 或一个异常。