OpenBLAS

llama.cpp 通过 OpenBLAS 构建获得 28% 的上下文容量提升

Reddit r/LocalLLaMA 版块的一名用户发现，在编译 llama.cpp 软件时，除了 Vulkan 支持外，增加 OpenBLAS 支持可以显著增加上下文窗口大小。在使用 Qwen 3.6 27B 模型时，上下文窗口从大约 87,808 个 token 扩展到 112,896 个 token。该用户正在调查这是否是预期行为、一个 bug 或一个异常。