PulseAugur
实时 15:54:26
English(EN) Sonnet 5 posted 63.2% on SWE-bench Pro. OpenAI's Terra claims 84.3% on Terminal-Bench, vendor-stated, preview-only, unverified. Say that part out loud before re

Sonnet 5 在 SWE-bench Pro 上达到 63.2%;OpenAI 的 Terra 声称的基准分数未经证实

一款新的人工智能模型 Sonnet 5 在 SWE-bench Pro 基准测试中取得了 63.2% 的分数。另外,OpenAI 的模型 Terra 据称在 Terminal-Bench 上获得了 84.3% 的分数,但这一说法是供应商声明、仅限预览且未经证实。作者警告不要将未经证实的基准测试视为证据,将其比作营销新闻稿。 AI

影响 为人工智能模型在软件工程任务中的性能设定了新的基准,可能推动进一步的发展和竞争。

排序理由 该集群报告了人工智能模型的基准分数,属于研究范畴。[lever_c_demoted from research: ic=1 ai=1.0]

在 Mastodon — fosstodon.org 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

Sonnet 5 在 SWE-bench Pro 上达到 63.2%;OpenAI 的 Terra 声称的基准分数未经证实

报道来源 [1]

  1. Mastodon — fosstodon.org TIER_1 English(EN) · [email protected] ·

    Sonnet 5 posted 63.2% on SWE-bench Pro. OpenAI's Terra claims 84.3% on Terminal-Bench, vendor-stated, preview-only, unverified. Say that part out loud before re

    Sonnet 5 posted 63.2% on SWE-bench Pro. OpenAI's Terra claims 84.3% on Terminal-Bench, vendor-stated, preview-only, unverified. Say that part out loud before repeating it. A benchmark you can't confirm isn't evidence. It's a press release with decimals. # AI # AIAgents # Software…