Helse Vest ICT

新的临床自然语言处理模型提升德语和挪威语医学文本分析能力

研究人员开发了针对德语和挪威语临床自然语言处理的新领域特定语言模型。基于RoBERTa的德语ChristBERT模型在一个13.5GB的语料库上进行了训练，在医学任务上的表现优于现有模型。挪威语KliniskVestBERT套件使用BERT编码器，在Helse Vest的去标识化临床文本上进行了预训练，相比基线模型有了显著改进。这两个项目都强调了专业化预训练在临床语言理解方面的优势，并公开发布了它们的模型。