一位 Mastodon 用户分享了他们使用 duck.ai 选择新的 LLM 推理聚合服务的流程。他们本地运行了 Qwen3.8,根据上下文窗口、每百万 token 的成本和时效性分析了该服务列出的 128 个模型,并分配了 z 分数。此外,他们还本地使用了 muse-glimmer 来编辑他们的 Zed settings.json,将选定的模型集成到他们的 AI 提供商中,并指出他们自己的成本优化流程也得到了优化。 AI
影响 展示了一种用户驱动的方法来优化 LLM 服务的选择和集成。
排序理由 用户描述了为个人工作流程使用特定工具和模型。
在 Mastodon — mastodon.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →