Dave Bennett

AI模型使用Google的嵌入技术在10美元的微控制器上运行

一位名叫Slava S（也称为“slvDev”）的乌克兰开发者成功地在一款低成本的ESP32-S3微控制器上运行了一个拥有2890万参数的AI模型，该微控制器的零售价约为10美元。这是通过采用Google的逐层嵌入技术（改编自Gemma模型）来实现的，以管理模型的内存需求。嵌入表格存储在较慢的16MB闪存中，而核心推理权重则利用了有限的512KB SRAM，使得模型能够完全在设备上运行。