Fireworks AI 与 Arize AI 合作，对包括 Kimi K3 在内的 10 个模型进行了 2,400 次代理运行的基准测试。他们的发现表明，根据任务难度进行路由可以优化成本和整体任务完成成功率，而不是仅仅关注每 token 的成本。这种方法强调了任务效率的重要性，而非原始模型调用的费用。此外，一期包含 Harry Stebbings 和 lqiao 见解的播客讨论了公司特定智能的未来，以及像 OpenAI 和 Anthropic 这样的主要 AI 参与者在开源成本下降的情况下可能被高估的潜力。 AI
影响 专注于任务效率而非 token 成本，可能会重新定义企业的 AI 基础设施经济学和模型选择标准。
排序理由 该集群讨论了一项基准研究和一个播客访谈，属于对 AI 行业趋势和基础设施的评论。
在 X — Fireworks (inference infra) 阅读 →
AI 生成摘要 · Google Gemini · 来自 3 个来源。 我们如何撰写摘要 →
Many still debate open vs closed, and compare cost per token (accounting metric). Better to shift attention to cost per successful task. @seldo and the team at @arizeai did so across 2,400 runs. Conclusion: route by task difficulty, and you win on both cost and coverage.
@HarryStebbings @lqiao Spotify https://t.co/PeO0QU3NPX Youtube https://t.co/QHDvuh4PbQ Apple Podcasts https://t.co/AEKre2RIAj
"What does nobody see about the next three years?" - @HarryStebbings "Every single company will own their own intelligence... it's not optional." - @lqiao https://t.co/YAsClUMZOS