Dmitri Lerko 在一次长达十小时的飞行中进行了一项实验,使用 MacBook Pro M5 Max 上的本地AI模型开发了一个分析工具。该模型 Qwen/Qwen3.6-35B-A3B 通过 LM Studio 和 OpenCode 运行,在定义明确的任务上表现与云端模型相当,但在处理超过 10 万个 token 的上下文时遇到困难。Lerko 指出,本地AI的成本效益取决于尝试次数和等待时间,这与 Claude Opus 等云端前沿模型可能更高的单次请求成本但更快的完成速度形成对比。他强调,一个功能齐全的本地AI开发环境不仅需要模型,还需要预加载的Docker镜像、开发环境和命令行工具。 AI
影响 突出了本地与云端AI开发之间的权衡,影响开发者在成本、速度和离线能力方面的选择。
排序理由 文章描述了一项关于本地AI开发的实验和分析,而非新版本或产品发布。
在 Mastodon — fosstodon.org 阅读 →
- Boeing 787
- Claude Opus
- Codex
- Dmitri Lerko
- Hacker News
- LM Studio
- loveholidays
- MacBook Pro M5 Max
- OpenCode
- Qwen/Qwen3.6-35B-A3B
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →