PulseAugur
实时 09:10:32
English(EN) In the Arena: How LMSys changed LLM Benchmarking Forever

在竞技场:LMSys 如何永远改变了 LLM 基准测试

Hugging Face 开发的 AraGen 基准测试旨在通过解决静态基准测试的局限性来改进 LLM 评估。它引入了一种类似于 LMSysChatbot Arena 的众包方法,允许进行更动态和用户导向的评估。这种方法旨在捕捉传统指标之外的真实用户偏好和模型性能。此外,一个名为 DharmaOCR 的新的开源 OCR 模型已经发布,与大型商业和开源模型相比表现强劲。 AI

影响 新的评估方法和专门的开源模型为 AI 运营商提供了改进的基准测试和成本效益。

排序理由 该集群包括一个新的基准测试和排行榜发布 (AraGen) 以及一个带有论文的开源模型发布 (DharmaOCR)。

在 Latent Space Podcast 阅读 →

AI 生成摘要 · Google Gemini · 来自 3 个来源。 我们如何撰写摘要 →

在竞技场:LMSys 如何永远改变了 LLM 基准测试

报道来源 [3]

  1. Hugging Face Blog TIER_1 English(EN) ·

    使用 3C3H 重新思考 LLM 评估:AraGen 基准和排行榜

  2. Latent Space Podcast TIER_1 English(EN) · Latent.Space ·

    擂台之上:LMSys 如何永远改变了 LLM 评测

    <p><em>Apologies for lower audio quality; we lost recordings and had to use backup tracks. </em></p><p>Our guests today are <a href="https://people.eecs.berkeley.edu/~angelopoulos/" target="_blank">Anastasios Angelopoulos</a> and <a href="https://infwinston.github.io/" target="_b…

  3. r/MachineLearning TIER_1 English(EN) · /u/augusto_camargo3 ·

    DharmaOCR:开源专用SLM (3B) + LLM及其他开源模型的成本-性能基准测试 [R]

    <!-- SC_OFF --><div class="md"><p>Hey everyone, we just open-sourced DharmaOCR on Hugging Face. Models and datasets are all public, free to use and experiment with.</p> <p>We also published the paper documenting all the experimentation behind it, for those who want to dig into th…