研究人员开发了RightNow-Arabic-0.5B-Turbo，一个拥有5.18亿参数的新型开源阿拉伯语语言模型。该模型基于Qwen2.5-0.5B构建，并通过词汇注入整合了专门的阿拉伯语词汇。开发过程包括广泛的预训练、监督微调和直接偏好优化，最终通过多个检查点进行权重融合。所得模型在阿拉伯语基准测试中表现出竞争力，在同等规模的开放模型中表现更优，并以极少的参数实现了远大于其规模模型的显著性能。它专为边缘部署而设计，量化后文件体积小，并在消费级硬件上提供快速推理速度。 AI
影响 提供了一个更小、专门化的阿拉伯语大语言模型用于边缘部署，可能增加阿拉伯语自然语言处理的可访问性和用例。
排序理由 发布了一篇详细介绍新型开源语言模型的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
- AceGPT
- ALLaM
- Arabic
- Falcon-H1-0.5B
- Falcon-H1-1.5B
- Jais
- Kuwain-1.5B
- Qwen2.5-0.5B
- RightNow-Arabic-0.5B-Turbo
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
