PulseAugur
中
实时 05:45:27
English(EN) LFM2.5-2.6B on a OnePlus 13 at 17 tok/s ~ Pure CPU

LFM2.5-2.6B 模型在 OnePlus 13 CPU 上以每秒 17 个 token 的速度运行

作者 PulseAugur 编辑部 · [1 个来源] ·

一位用户已成功在 OnePlus 13 智能手机上仅使用设备的 CPU 运行了 LFM2.5-2.6B 语言模型。该模型拥有 26.9 亿个参数和 128K 上下文窗口，实现了每秒 17 个 token 的速度。用户开发了一个自定义推理引擎，该引擎仅占 450kb 空间，并支持多种其他模型架构，目标是将处理速度提高到每秒 30 个 token。 AI

影响 展示了使用自定义推理引擎在移动硬件上运行复杂 LLM 的可行性。

排序理由 用户开发的推理引擎在移动设备上运行特定 LLM。

在 r/LocalLLaMA 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

LFM2.5-2.6B 模型在 OnePlus 13 CPU 上以每秒 17 个 token 的速度运行

本文如何被排名

Signal score
0 / 100
Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket
Tool
用户开发的推理引擎在移动设备上运行特定 LLM。
Source corroboration
Single-source cluster
Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics
product, infra
Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance
High
Clearly on-topic for AI-industry coverage.
Story freshness
63 days old
Aged out of breaking-news scoring windows; ranking reflects the durable signal from the full source set.

完整方法见我们的编辑标准。

报道来源 [1]

  1. r/LocalLLaMA TIER_1 English(EN) · /u/trikboomie ·

    OnePlus 13 上的 LFM2.5-2.6B，速度为 17 token/秒 ~ 纯 CPU

    <table> <tr><td> <a href="https://www.reddit.com/r/LocalLLaMA/comments/1vg8qfv/lfm2526b_on_a_oneplus_13_at_17_toks_pure_cpu/"> <img alt="LFM2.5-2.6B on a OnePlus 13 at 17 tok/s ~ Pure CPU" src="https://preview.redd.it/oeyr9vuhfkhh1.gif?width=640&amp;crop=smart&amp;s=e37a0906f0628…

相关实体

相关话题