English(EN) Can a small language model run on a budget Android phone with 4 GB RAM?

小型语言模型在配备 4GB RAM 的经济型 Android 手机上运行

作者 PulseAugur 编辑部 · [1 个来源] · 2026-11-12 07:47

一款小型开源语言模型已在低端 Android 手机上进行了测试，以评估其在有限内存下的运行能力。该模型成功在一台配备 4GB RAM 的 Galaxy A05s 上运行，并在 4.25 秒内回答了一个标准问题。然而，其性能会因网络连接状态和上下文长度而异，当上下文长度达到 768 个 token 时，速度会下降到 11.0 tokens/秒。该模型专门针对药房软件进行了训练，不适用于通用聊天机器人应用，并且在目标设备上的准确性仍需进一步评估。 AI

影响使得在低端硬件上运行设备端 AI 应用成为可能，从而扩大了专业任务的可及性。

排序理由该条目讨论了特定 LLM 在消费设备上的性能，属于工具和基础设施类别，而非前沿发布或重大行业事件。

在 dev.to — LLM tag 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

本文如何被排名

Signal score: 41 / 100; Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket: Tool; 该条目讨论了特定 LLM 在消费设备上的性能，属于工具和基础设施类别，而非前沿发布或重大行业事件。
Source corroboration: Single-source cluster; Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics: product, infra; Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance: High; Clearly on-topic for AI-industry coverage.
Story freshness: Breaking (< 6h); Fresh story with cross-source coverage still developing. Ranking may shift as more sources report.

完整方法见我们的编辑标准。

报道来源 [1]

dev.to — LLM tag TIER_1 English(EN) · Neykosa · 2026-11-12 07:47

内存仅4GB的廉价安卓手机能否运行小型语言模型？

<p>Our small open model answered a stock question in 4.25 s on a 4 GB Galaxy A05s. In that same run, its first turn took 13.4 s, right after a print preview, and that gap is still open.</p> <p>Both times come from a whole-app run of a test build (31 Oct), with airplane mode on, u…

本文如何被排名

报道来源 [1]

内存仅4GB的廉价安卓手机能否运行小型语言模型？

相关实体

相关话题