CNM-BERT 通过嵌入汉字结构增强中文NLP

研究人员开发了CNM-BERT，一种增强基于BERT的中文自然语言处理模型的创新方法。该方法融入了汉字（通常被标准基于词元的编码器忽略）的组合结构。通过解析表意描述序列（IDS）为树状结构并使用递归Tree-MLP进行编码，CNM-BERT在不改变Transformer架构核心组件的情况下，将结构化信息注入现有模型。评估结果表明，CNM-BERT在罕见字和未登录字上的性能显著提升，优于ChineseBERT等强大基线模型，并在CLUE、MRC和NER等多种下游任务中展现出切实的优势。 AI

影响 这项研究有望提高NLP模型在具有复杂字符结构的语言上的性能，特别是对于罕见字或未登录字。

排序理由 该条目是一篇学术论文，详细介绍了一种新的NLP模型架构。[lever_c_research降级：ic=1 ai=1.0]

在 arXiv cs.CL 阅读 →

• 2025
• BERT
• ChineseBERT
• Chinese character description language
• CLUE
• CNM-BERT
• Compositional Network Model
• MRC
• named-entity recognition
• Transformer++
• Tree-MLP

• 论文
• 模型发布

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →