研究人员推出了GeopoliticalQA,这是一个旨在评估问答系统处理情报报告能力的新基准。该基准包含来自415份开源地缘政治和战略情报报告的5,500多个问答对,涵盖事实性、推理性、比较性和风险导向型查询。评估显示,虽然检索系统在文档级别表现相似,但块级别检索质量不依赖于嵌入模型的规模,一个中型开源编码器优于大型模型和商业API。然而,答案生成,特别是对于推理性和风险导向型问题,仍然是一个重大挑战。 AI
影响 该基准将有助于提升AI处理和理解复杂地缘政治情报的能力,可能改善敏感领域的分析和决策。
排序理由 该集群描述了一个用于评估AI系统处理特定类型文档的新学术基准。
在 arXiv cs.IR (Information Retrieval) 阅读 →
- alphaXiv
- arXiv
- BGE M3-Embedding: Multi-Lingual, Multi-Functionality, Multi-Granularity Text Embeddings Through Self-Knowledge Distillation
- CatalyzeX
- DagsHub
- GeopoliticalQA
- Gotit.pub
- Hugging Face
- ScienceCast
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →