研究人员推出了 Neurograf v1,这是一个从头开始开发的语言模型家族,专注于罗马尼亚语。该实验性流程包括一个大型罗马尼亚语语料库、一个自定义分词器以及五个不同大小的仅解码器模型,同时还有指令微调的助手和嵌入模型。该研究强调了创建罗马尼亚语优先模型的可行性,并指出了该过程中的实际挑战,例如语料库质量和分词效率。 AI
影响 证明了为资源较少的语言训练专用语言模型的可行性,有可能实现更广泛的人工智能可访问性。
排序理由 该项目是一篇详细介绍新语言模型家族开发的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
- BPE tokenizer
- decoder-only models
- ELI-NP/IFIN-HH
- Hugging Face
- instruction-tuned assistants
- Ionut Adrian Rotaru
- Neurograf-3.2B
- Neurograf-6B
- Neurograf v1
- Romanian
- RoSfera
- WWTBM
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →