MENmBERT

新模型提升人工智能对马来西亚英语的理解能力

研究人员开发了新的预训练语言模型MENmBERT和MENBERT，专门用于改进马来西亚英语的命名实体识别（NER）和关系抽取（RE）。这种克里奥尔语是英语与马来语、中文和泰米尔语元素的融合，由于其独特的语法和语码转换，对现有模型提出了挑战。新模型在手动标注的马来西亚英语新闻文章（MEN）数据集上进行了微调，显示出显著的改进，特别是在关系抽取和命名实体识别中的特定实体标签方面，证明了特定语言预训练在低资源环境中的价值。