实体
mmBERT
mmBERT
PulseAugur coverage of mmBERT — every cluster mentioning mmBERT across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
新的ModernBERT冰岛语模型超越IceBERT
研究人员开发了基于ModernBERT架构的新型冰岛语语言模型,参数量从1200万到10亿不等。这些模型在90亿个token的开放数据上进行了训练,在十一个基准任务上的表现优于现有的IceBERT模型。值得注意的是,一个拥有10亿参数的模型,在从英文Ettin编码器进行预热后,在所有评估任务上都取得了最佳分数,这表明即使是基于英文的模型也能显著受益于冰岛语语言处理。
-
TabiBERT:发布新的土耳其语基础模型和基准
研究人员推出了 TabiBERT,一个基于 ModernBERT 架构的新型大规模土耳其语基础模型。该模型在超过一万亿个 token 的海量数据集上进行了训练,涵盖了网络文本、科学出版物和源代码,并支持 8,192 个 token 的上下文长度。为了评估 TabiBERT,开发了一个名为 TabiBench 的新基准,该基准包含八个任务类别中的 27 个数据集。与之前的土耳其语模型相比,TabiBERT 在问答和代码检索任务上表现出了卓越的性能。