研究人员推出了Africa-Papers,一个包含101.5亿token的新语料库,旨在解决非洲学术研究在大型语言模型训练数据中代表性不足的问题。这个多领域数据集包含超过844,000篇全文论文,旨在提高基础模型在与非洲相关的主题(如热带流行病和农业实践)上的表现。该语料库被处理成干净的Markdown格式,保留了方程式和表格等结构元素,并在Hugging Face Hub上的AfriSpeech组织下公开提供,以促进进一步的研究和开发。 AI
影响 增强了LLM在非洲情境下的能力,促进了AI领域的知识主权。
排序理由 该集群描述了在arXiv上发布的一个新的学术数据集,符合研究类别。 [lever_c_demoted from research: ic=1 ai=1.0]
- Africa-Papers
- AfriSpeech
- arXiv
- CGIAR CGSpace
- dolma
- Hugging Face Hub
- OpenAlex
- S2ORC: The Semantic Scholar Open Research Corpus
- The Pile
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →