PulseAugur
实时 10:01:12
English(EN) BizFinBench.v2: Towards Reliable LLMs in Finance via Real-User Data and Offline/Online Bilingual Evaluation

新的金融大语言模型基准 BizFinBench.v2 揭示 GPT-5 的局限性

一个新的基准 BizFinBench.v2 被开发出来,用于评估金融应用中的大语言模型 (LLM),使用了来自中国和美国股市的真实用户查询-响应数据。该基准包含 28,860 个问题,涵盖八项离线任务和两项在线任务。初步实验表明,GPT-5 的准确率仅为 61.5%,未能达到 84.8% 的实际业务要求。在商业模型中,DeepSeek-R1 展现了更高的投资效能,而错误分析则突出了当前大语言模型存在的持续性局限。 AI

影响 强调了在金融等专业领域对更强大可靠的大语言模型评估的需求,可能推动更准确、更可靠的金融人工智能工具的开发。

排序理由 该集群是关于一篇介绍大语言模型基准的新学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

新的金融大语言模型基准 BizFinBench.v2 揭示 GPT-5 的局限性

报道来源 [1]

  1. arXiv cs.AI TIER_1 English(EN) · Xin Guo, Rongjunchen Zhang, Guilong Lu, Xuntao Guo, Shuai Jia, Zhi Yang, Liwen Zhang ·

    BizFinBench.v2: Towards Reliable LLMs in Finance via Real-User Data and Offline/Online Bilingual Evaluation

    arXiv:2601.06401v2 Announce Type: replace Abstract: Large language models are becoming increasingly significant in financial applications. Nevertheless, prevailing benchmarks are largely dependent on simulated or generic data, which leads to a significant gap between reported per…