PulseAugur
中
实时 08:14:11
English(EN) Neykosa phone benchmark: 14.8 tok/s from a 0.6B model on a 4 GB Galaxy A05s, and what that number leaves out

0.6B LLM 在经济型安卓手机上实现 14.8 token/秒

Neykosa 团队在 4GB Galaxy A05s 手机上对一个 0.6B 参数模型 Qwen3 0.6B 进行了基准测试。该模型使用 llama.cpp,配合特定的设置(包括 6 位 Q6_K 量化和 4 个线程),达到了每秒 14.8 token 的速度。然而,该团队强调,这个速度指标并不能反映用户体验,用户体验更依赖于整体响应时间。他们 Nesayo 离线版的独立测试显示,响应时间从一次性回答的 4.25 秒到首次启动的 18.8 秒不等,模型内存使用量约为 673 MB。 AI

影响 证明了在低资源移动设备上运行小型 LLM 的可行性,可能为离线 AI 应用提供支持。

排序理由 在移动设备上运行小型 LLM 的基准测试结果。[lever_c_demoted from research: ic=1 ai=1.0]

在 dev.to — LLM tag 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

0.6B LLM 在经济型安卓手机上实现 14.8 token/秒

本文如何被排名

Signal score
65 / 100
Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket
Tool
在移动设备上运行小型 LLM 的基准测试结果。[lever_c_demoted from research: ic=1 ai=1.0]
Source corroboration
Single-source cluster
Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics
infra, product
Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance
High
Clearly on-topic for AI-industry coverage.
Story freshness
Breaking (< 6h)
Fresh story with cross-source coverage still developing. Ranking may shift as more sources report.

完整方法见我们的编辑标准。

报道来源 [1]

  1. dev.to — LLM tag TIER_1 English(EN) · Neykosa ·

    Neykosa 手机跑分:0.6B 模型在 4GB Galaxy A05s 上达到 14.8 tok/s,以及这个数字遗漏了什么

    <p>Team Neykosa measured a 0.6B model writing 14.8 tokens a second on a 4 GB Galaxy A05s. But a user never waits for tokens a second. They wait for an answer, so we report the two separately.</p> <h2> The speed bench </h2> <p>The model is Qwen3 0.6B, a small open model taught onl…