研究人员开发了 MoganBert-TR,一个新的土耳其编码器基础模型,以及配套的嵌入模型 MoganBert-Embed。MoganBert-TR 使用新颖的 CLM-to-MLM 课程,在过滤后的土耳其语语料库上从头开始训练,与传统的 MLM 方法相比,在检索任务上表现出显著的改进。该模型在 TrGLUE 和 TabiBench 等基准测试中取得了最先进的成果,而 MoganBert-Embed 在嵌入性能方面表现出色,尽管规模较小,但在 MTEB(Turkish) 上排名第一。 AI
影响 引入了一种新的训练课程,提高了土耳其语任务的性能,并提供了一个更有效的嵌入模型。
排序理由 该集群描述了一篇关于创建和评估新型语言模型的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
- CLM-to-MLM
- Hugging Face
- MoganBert-Embed
- MoganBert-TR
- MS MARCO
- MTEB(Turkish)
- TabiBench
- TabiBERT
- TrGLUE
- Turkish
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →