研究人员推出了RefinedGAW,这是一个新的德语学术网络内容数据集,旨在提供比广泛的网络抓取更高的领域特异性。该数据集包含1.22亿份文档和3140亿个token,其中84%被识别为学术研究、教育或专家导向的内容,商业偏见极小。尽管FineWeb2和FinePDFs的数据集规模要大得多,但RefinedGAW的876亿个学术研究内容token超过了它们各自的德语子集。该项目还提供了一个可查询的元数据索引和一个用于检索和处理源文档的工具。 AI
影响 为训练AI模型处理德语学术内容提供了一个专业数据集,有可能提高在特定领域任务中的性能。
排序理由 该集群描述了在arXiv上发布的一个新的学术数据集。
- alphaXiv
- arXiv
- CatalyzeX Code Finder for Papers
- Connected Papers
- CORE Recommender
- DagsHub
- FinePDFs
- FineWeb2: One Pipeline to Scale Them All -- Adapting Pre-Training Data Processing to Every Language
- German Academic Web
- Gotit.pub
- Hugging Face
- Litmaps
- RefinedGAW
- ScienceCast
- scite Smart Citations
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →