一位用户已成功在 OnePlus 13 智能手机上仅使用设备的 CPU 运行了 LFM2.5-2.6B 语言模型。该模型拥有 26.9 亿个参数和 128K 上下文窗口，实现了每秒 17 个 token 的速度。用户开发了一个自定义推理引擎，该引擎仅占 450kb 空间，并支持多种其他模型架构，目标是将处理速度提高到每秒 30 个 token。 AI
影响 展示了使用自定义推理引擎在移动硬件上运行复杂 LLM 的可行性。
排序理由 用户开发的推理引擎在移动设备上运行特定 LLM。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
<table> <tr><td> <a href="https://www.reddit.com/r/LocalLLaMA/comments/1vg8qfv/lfm2526b_on_a_oneplus_13_at_17_toks_pure_cpu/"> <img alt="LFM2.5-2.6B on a OnePlus 13 at 17 tok/s ~ Pure CPU" src="https://preview.redd.it/oeyr9vuhfkhh1.gif?width=640&crop=smart&s=e37a0906f0628…