llama.cpp 项目发布了 b10520 版本,其中包括对其 ggml-cpu 组件的更新。这些更改侧重于基于 __ARM_FP16_FORMAT_IEEE 来控制 __fp16,并确保正确处理 __ARM_NEON 信号。 AI
影响 对 llama.cpp 的 ggml-cpu 组件的更新可能会提高在特定硬件上运行 AI 模型的性能和兼容性。
排序理由 这是关于 AI 模型推理的开源项目发布,属于研究范畴。[lever_c_demoted from research: ic=1 ai=1.0]
在 Mastodon — fosstodon.org 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →