PulseAugur
实时 10:16:29

新的基准测试LLM-SoccerArena测试体育预测准确性

研究人员推出了LLM-SoccerArena,这是一个新颖的前瞻性实时基准测试平台,旨在评估大型语言模型(LLM)在现实世界场景(特别是体育赛事)中的预测能力。该开源平台记录了未解决事件的带时间戳的预测,并考虑了模型版本、信息访问、提示策略和预测范围等不同因素。使用2026年FIFA世界杯进行的初步评估表明,与没有网络访问的LLM相比,拥有网络访问的LLM在预测准确性方面仅有边际改善,以Brier分数衡量。 AI

影响 该基准测试可能导致对LLM预测能力的更严格评估,从而可能改善其在不确定未来事件的决策中的应用。

排序理由 该集群描述了一篇介绍用于评估LLM的新颖基准测试的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

新的基准测试LLM-SoccerArena测试体育预测准确性

报道来源 [1]

  1. arXiv cs.AI TIER_1 English(EN) · Jonas Schr\"oder, Jonas Schweisthal, Oliver M\"uller, Markus Weinmann, Stefan Feuerriegel ·

    LLM-SoccerArena: Benchmarking LLMs on Real-World Predictions in Sports

    arXiv:2607.24573v1 Announce Type: new Abstract: Large language models (LLMs) increasingly support decisions about uncertain future events, yet evaluating their ability to forecast real-world outcomes remains difficult. In particular, existing benchmarks are typically static and r…