一位开发者演示了大型语言模型 (LLM) 可以在极低功耗的硬件上运行,具体来说是一个 10 美元的微控制器。这一成就使得 LLM 可以在各种设备上运行,以近乎 10 token/秒的速度产生连贯的输出。这一突破预示着未来 AI 功能将集成到最基本的计算硬件中。 AI
影响 使 LLM 能够集成到大量低功耗设备中,扩大了 AI 的可及性。
排序理由 在低功耗硬件上演示 LLM 能力,并非新的模型发布或前沿研究。
AI 生成摘要 · Google Gemini · 来自 3 个来源。 我们如何撰写摘要 →