PulseAugur
实时 16:11:25
English(EN) Running a 13M ASR conformer on a microcontroller

13M ASR Conformer 模型在低成本微控制器上运行

一位开发者成功地在低成本 ESP32-S3 微控制器上实现了一个拥有 1310 万参数的自动语音识别 (ASR) conformer 模型。通过蒸馏和量化,该模型被压缩到仅占用 14MB 的闪存和 256KB 的 SRAM,使其能够转录 8 秒的音频。尽管推理速度仍然较慢,但这比之前的尝试有了显著的进步,开发者提倡进行更多关于模型效率的研究,以使人工智能在经济实惠的硬件上更加普及。 AI

影响 展示了在低成本嵌入式设备上运行复杂人工智能模型的潜力,提高了可访问性。

排序理由 这是一个研究项目,展示了在受限硬件上运行特定人工智能模型的可行性。 [lever_c_demoted from research: ic=1 ai=1.0]

在 r/LocalLLaMA 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

13M ASR Conformer 模型在低成本微控制器上运行

报道来源 [1]

  1. r/LocalLLaMA TIER_1 English(EN) · /u/wunschpunsch3D ·

    在微控制器上运行 13M ASR conformer

    <table> <tr><td> <a href="https://www.reddit.com/r/LocalLLaMA/comments/1v1pume/running_a_13m_asr_conformer_on_a_microcontroller/"> <img alt="Running a 13M ASR conformer on a microcontroller" src="https://external-preview.redd.it/ZDc5NnZ0ODduZWVoMeeRTcl9KjdEC41WCW7uRuGpGusZf3DpzGl…