对一个编码代理的近期分析表明,尽管最新的 Claude 模型可能在基准测试得分上更高,但在工具调用方面可能不一定更好。研究观察到,最新的 Claude 模型损坏了对嵌套编辑工具模式的调用,而旧版本能够正确处理。这种性能下降被假定源于在一个通用、宽松框架内的强化学习,这表明基准测试性能并不总是能转化为现实世界中的工具使用效率。 AI
影响 表明基准测试分数可能无法完全反映 AI 模型在现实世界中的性能,尤其是在工具调用等复杂任务中。
排序理由 对模型在特定任务上的性能进行分析,而非主要发布或研究论文。
在 Mastodon — fosstodon.org 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →