用于AI工作的本地机器的规格在中值能力上正在下降，而它们能运行的模型尺寸却在迅速增长。一年前，在标准笔记本电脑上运行一个350亿参数的模型被认为是荒谬的，但现在已经成为可能，尽管存在性能限制。虚拟化和将处理卸载到SSD的进步有望提高可用性，许多个人正在试验新颖的技术。 AI
影响 本地硬件能力在运行更大AI模型方面有所提高，有可能使先进AI工具的访问更加普及。
排序理由 该条目是一篇社交媒体帖子，讨论AI硬件和模型尺寸的趋势，而不是一个主要公告或研究论文。
在 Mastodon — mastodon.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
完整方法见我们的编辑标准。
Notes on # AI Tools for # Coding and # Science : The median spec for local work machines keeps dropping while the size of models they can run is rapidly increasing. A year ago the idea of running a 35 B parameter model on a plain vanilla laptop sounded absurd. Now, it’s still not…