PulseAugur
中
实时 02:24:49
English(EN) AI developer runs 28.9-million-parameter model on $10 ESP32-S3 microcontroller — uses Google's Per-Layer Embeddings technique, stores table on 16MB Flash memory

AI模型使用谷歌的嵌入技术在10美元的微控制器上运行

作者 PulseAugur 编辑部 · [2 个来源] ·

一位AI开发者成功在一款低成本的ESP32-S3微控制器上运行了一个拥有2890万参数的语言模型，鉴于该芯片内存有限，这曾被认为是不可能的壮举。这位开发者（代号为'slvDev'）利用了一种受谷歌Gemma启发的名为Per-Layer Embeddings的技术来管理模型的参数。该方法包括将模型量化为4位，并将大型嵌入表存储在较慢的闪存中，同时将核心推理权重保留在有限的快速RAM中。 AI

影响 使得在极低成本的嵌入式设备上运行复杂的AI模型成为可能，为边缘计算开辟了新的应用前景。

排序理由 展示了在极低资源硬件上运行重要AI模型的成果，是一项新颖的技术成就。

在 Mastodon — mastodon.social 阅读 →

AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →

AI模型使用谷歌的嵌入技术在10美元的微控制器上运行

本文如何被排名

Signal score
0 / 100
Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket
Research
展示了在极低资源硬件上运行重要AI模型的成果，是一项新颖的技术成就。
Source corroboration
2 independent sources
Multiple independent publishers reporting the same story raises confidence that it's real and newsworthy.
Topics
model release, infra
Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance
High
Clearly on-topic for AI-industry coverage.
Story freshness
73 days old
Aged out of breaking-news scoring windows; ranking reflects the durable signal from the full source set.

完整方法见我们的编辑标准。

报道来源 [2]

  1. Tom's Hardware TIER_1 English(EN) · Zak Killian ·

    AI开发者在10美元的ESP32-S3微控制器上运行2890万参数模型 — 使用Google的Per-Layer Embeddings技术，将表格存储在16MB闪存中

    Getting a local language model running on a sub-$10 microcontroller is impressive despite its obvious limitations.

  2. Mastodon — mastodon.social TIER_1 English(EN) · [email protected] ·

    AI开发者在10美元的ESP32-S3微控制器上运行2890万参数模型 — 使用Google的Per-Layer Embeddings技术，将表格存储在16MB闪存中

    AI developer runs 28.9-million-parameter model on $10 ESP32-S3 microcontroller — uses Google's Per-Layer Embeddings technique, stores table on 16MB Flash memory Getting a local language model running on a sub-$10 microcontroller is impressive despite its obvious limitations. http…

    链接 tomshardware.com/…/ai-developer-runs-28-9… tomshardware.com/tech-industry

相关实体

相关话题