PulseAugur
实时 02:39:27
English(EN) I Gave Five AI Coding Agents a way to Fact-Check the Docs They Were handed. They Refused to Use it.

研究发现,AI编码代理在文档过时时表现不佳

一项研究发现,AI编码代理在处理过时的文档时遇到困难,其中一个模型在提供错误信息时失败率高达100%。即使提供了访问正确源代码的工具,这些代理也常常拒绝进行事实核查或验证声明。这表明存在正确性问题,而非简单的数据卫生问题,因为与过时或缺失的文档相比,新鲜的文档显著提高了性能。 AI

影响 强调了准确和最新的文档对于可靠的AI代理性能至关重要。

排序理由 该项目描述了一项预先注册的基准研究,评估AI编码代理在使用文档时的性能。[lever_c_demoted from research: ic=1 ai=1.0]

在 Towards AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

研究发现,AI编码代理在文档过时时表现不佳

报道来源 [1]

  1. Towards AI TIER_1 English(EN) · Connormcd ·

    我给了五个AI编程助手一个核查其所获文档的方法。它们拒绝使用。

    <h4><em>A pre-registered benchmark of what stale docs do to coding agents: 3250 graded trials, 5 models, 3 providers, and $120 of my own API credits. The short version: stale docs are worse than no docs, and fresh docs beat both.</em></h4><p>Here is the single most uncomfortable …