PulseAugur
实时 17:56:27
English(EN) Sonnet 5 posted 63.2% on SWE-bench Pro. OpenAI's Terra claims 84.3% on Terminal-Bench, vendor-stated, preview-only, unverified. Say that part out loud before re

Sonnet 5 在 SWE-bench Pro 上达到 63.2%;OpenAI 的 Terra 声称的基准分数未经证实

一款新的人工智能模型 Sonnet 5 在 SWE-bench Pro 基准测试中取得了 63.2% 的分数。另外,OpenAI 的模型 Terra 据称在 Terminal-Bench 上获得了 84.3% 的分数,但这一说法是供应商声明、仅限预览且未经证实。作者警告不要将未经证实的基准测试视为证据,将其比作营销新闻稿。 AI

影响 为人工智能模型在软件工程任务中的性能设定了新的基准,可能推动进一步的发展和竞争。

排序理由 该集群报告了人工智能模型的基准分数,属于研究范畴。[lever_c_demoted from research: ic=1 ai=1.0]

在 Mastodon — fosstodon.org 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

Sonnet 5 在 SWE-bench Pro 上达到 63.2%;OpenAI 的 Terra 声称的基准分数未经证实

报道来源 [1]

  1. Mastodon — fosstodon.org TIER_1 English(EN) · [email protected] ·

    Sonnet 5 在 SWE-bench Pro 上得分 63.2%。OpenAI 的 Terra 在 Terminal-Bench 上声称得分 84.3%,为供应商声明,预览版,未经证实。先大声说出那部分,然后再重

    Sonnet 5 posted 63.2% on SWE-bench Pro. OpenAI's Terra claims 84.3% on Terminal-Bench, vendor-stated, preview-only, unverified. Say that part out loud before repeating it. A benchmark you can't confirm isn't evidence. It's a press release with decimals. # AI # AIAgents # Software…