一位开发者成功演示了大型语言模型可以在极低成本的硬件上运行,具体来说是一个10美元的微控制器,实现了每秒近10个token的处理速度。这一壮举已被记录在GitHub上,并通过SlvDev在Better Stack的YouTube频道上得到突出展示。与此同时,佛罗里达州民主党人正在向DeSantis政府施压,要求其就一项旨在提高补充营养援助计划(SNAP)错误率的400万美元AI合同提高透明度,该合同可能带来高达10亿美元的节省。 AI
影响 展示了在低成本设备上广泛部署AI的潜力,并突出了政府利用AI提高计划效率。
排序理由 该集群涵盖了在低成本硬件上运行大型语言模型的技术演示,以及关于政府服务中AI的政策/采购故事。
在 Mastodon — mastodon.social 阅读 →
- Better Stack
- DeSantis administration
- Florida Democratic Party
- Florida Legislature
- GitHub
- One Big Beautiful Bill Act
- slvDev
- Supplemental Nutrition Assistance Program
- The Register
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →