一篇新发表在arXiv上的案例研究，探讨了在企业编码代理中，使用云端LLM（如Claude Opus 4.7/4.8）与本地部署的量化开源模型（如GLM-5.1/5.2）之间的经济权衡。研究发现，提示缓存显著降低了Claude Opus的API成本，使其每百万token的有效成本降至0.57美元，比本地部署的GLM配置更便宜。然而，本地部署的设置与更高的缺陷修复负担相关，其修复提交率（Fix Commit Ratio）为74.9%，而基于API的方法为45.9%。虽然在共享GPU分配下，本地部署可以节省成本，但它带来了开发者体验负担，花费更多时间进行调试，并且提交速度较慢。 AI
影响 与本地部署相比，云端LLM可能为企业编码代理提供更具成本效益且缺陷更少的解决方案。
排序理由 学术论文，详细介绍了LLM推理经济学的比较研究。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
