PulseAugur
中
实时 02:31:17
English(EN) Running a 28.9M parameter LLM on an $8 microcontroller https:// github.com/slvDev/esp32-ai # ai # github # llm

2890 万参数 LLM 在 8 美元微控制器上运行，使用 Google 的逐层嵌入技术 · 跟踪 4 个来源

作者 PulseAugur 编辑部 · [4 个来源] ·

一位开发者成功地在 8 美元的 ESP32-S3 微控制器上运行了一个拥有 2890 万参数的语言模型，实现了每秒约 9 个 token 的速度，无需云端依赖。这项边缘 AI 的重大进展利用了 Google 的逐层嵌入技术，允许模型的大部分参数驻留在慢速闪存中，同时将核心处理组件保留在芯片有限的 SRAM 中。该模型在 TinyStories 数据集上进行训练，能够生成简短、连贯的叙事，展示了低成本、离线生成式 AI 应用的新能力。 AI

影响 使复杂的人工智能能力能够在成本极低、功耗极高的边缘设备上实现，为离线智能传感器和嵌入式系统开辟了新的可能性。

排序理由 该项目展示了在商品硬件上运行大型 LLM，这是边缘 AI 的一项重大工具化进展。

在 Mastodon — fosstodon.org 阅读 →

AI 生成摘要 · Google Gemini · 来自 4 个来源。 我们如何撰写摘要 →

2890 万参数 LLM 在 8 美元微控制器上运行，使用 Google 的逐层嵌入技术 · 跟踪 4 个来源

本文如何被排名

Signal score
0 / 100
Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket
Tool
该项目展示了在商品硬件上运行大型 LLM，这是边缘 AI 的一项重大工具化进展。
Source corroboration
4 independent sources
Strong cross-source corroboration — multiple independent publishers covered this within the clustering window.
Topics
product, infra
Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance
High
Clearly on-topic for AI-industry coverage.
Story freshness
46 days old
Aged out of breaking-news scoring windows; ranking reflects the durable signal from the full source set.

完整方法见我们的编辑标准。

报道来源 [4]

  1. Hacker News — AI stories ≥50 points TIER_1 English(EN) · boveyking ·

    在 8 美元的微控制器上运行 2890 万参数的大型语言模型

  2. dev.to — LLM tag TIER_1 English(EN) · Hamza ·

    ESP32-AI：在8美元的微控制器上运行2890万参数的大型语言模型

    <p><a class="article-body-image-wrapper" href="https://media2.dev.to/dynamic/image/width=800%2Cheight=%2Cfit=scale-down%2Cgravity=auto%2Cformat=auto/https%3A%2F%2Fdev-to-uploads.s3.us-east-2.amazonaws.com%2Fuploads%2Farticles%2F0zoirw9smd3py4jw342s.jpg"><img alt="ESP32-S3 microco…

  3. Mastodon — fosstodon.org TIER_1 English(EN) · [email protected] ·

    在 $8 微控制器上运行拥有 28.9M 参数的 LLM https:// github.com/slvDev/esp32-ai # ai # github # llm

    Running a 28.9M parameter LLM on an $8 microcontroller https:// github.com/slvDev/esp32-ai # ai # github # llm

    链接 github.com/…/esp32-ai
  4. Mastodon — mastodon.social TIER_1 English(EN) · h4ckernews ·

    在 $8 微控制器上运行 28.9M 参数 LLM https:// github.com/slvDev/esp32-ai Comments: https:// news.ycombinator.com/item?id=4 9050512 # HackerNew

    Running a 28.9M parameter LLM on an $8 microcontroller https:// github.com/slvDev/esp32-ai Comments: https:// news.ycombinator.com/item?id=4 9050512 # HackerNews # LLM # microcontroller # AI # lowcost # techinnovation

    链接 github.com/…/esp32-ai

相关实体

相关话题