研究人员推出了 Dhārā Bench,这是一个新的检索基准,旨在评估系统在印度知识体系 (IKS) 方面的表现。该基准包含 12 个类别中的 325 个问题和超过 60,000 个文本片段,并附有将问题链接到相关段落的详细注释。使用 Pyserini 实现的 BM25 基线进行的初步评估显示性能一般,特别是在诗句检索方面存在不足,并且在为多跳问题寻找完整证据方面存在挑战。语料库和评估代码可在 Hugging Face 上公开获取。 AI
影响 为专注于特定知识领域的检索系统建立了新的评估标准。
排序理由 发布了一篇介绍新基准的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
在 arXiv cs.IR (Information Retrieval) 阅读 →
- arXiv
- Avinash Holenarasipur Nagendra
- BM25
- Dhārā Bench
- Hugging Face
- Indian Knowledge Systems
- Pyserini
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →