PulseAugur
实时 07:10:55

新方法使用子模函数优化LLM基准提示选择

研究人员开发了一种新的方法,用于为大型语言模型(LLM)基准选择提示子集,旨在用显著更少的提示来近似完整基准套件的结果。这种评估无监督的方法利用子模选择,其中在语义提示嵌入上运行的设施选址函数被证明是最有效的。该方法在大规模数据集上进行了测试,该数据集包含35个基准、18个LLM和超过61,000个提示,在保留LLM分数方面表现优于现有基线。 AI

影响 这项研究通过减少基准测试所需的提示数量,可能导致更高效、更具成本效益的LLM评估。

排序理由 该项目是一篇学术论文,详细介绍了一种用于LLM基准评估的新方法。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

新方法使用子模函数优化LLM基准提示选择

报道来源 [1]

  1. arXiv cs.AI TIER_1 English(EN) · Jihan Yao, Gantavya Bhatt, Arnav Das, Peter Jin, Ke Bao, Qiaolin Yu, Khushi Bhardwaj, Chang Su, Jialei Wang, Yikai Zhu, Sugam Devare, Damon Mosk-Aoyama, Zhen Dong, Venkat Krishna Srinivasan, Yineng Zhang, Oleksii Kuchaiev, Jiantao Jiao, Banghua Zhu, Jeff… ·

    Coresets Before Score Sets: LLM基准测试的无监督提示子集选择

    arXiv:2607.09739v1 Announce Type: new Abstract: We study LLM benchmark coreset selection: selecting a small subset of prompts over multiple benchmarks whose induced model scores and rankings approximate those obtained from the full benchmark suite. In evaluation-unsupervised benc…