EuroBERT

新的SindBERT模型提升了土耳其自然语言处理能力

研究人员开发了SindBERT，一个专门针对土耳其语的新型大规模RoBERTa语言模型。SindBERT在超过300 GB的土耳其语文本上进行了训练，有base和large两种配置，是该语言首个此类编码器模型。在各种自然语言处理任务上的评估显示出具有竞争力的性能，尽管large版本并未持续优于更小、更精选的模型，这表明语料库质量对于形态丰富的语言至关重要。