实体 Lara Mini base

Lara Mini base

PulseAugur coverage of Lara Mini base — every cluster mentioning Lara Mini base across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_357761 · Nov 14 · 05:00

Lara Mini Base 模型通过 MoE 架构提升多语言性能

研究人员推出 Lara Mini Base，这是一种新的语言模型，旨在提高多种语言的性能，同时不牺牲容量。与大多数主要以英语训练的模型不同，Lara Mini Base 在包含英语和另外 44 种语言（包括所有欧盟官方语言）的 6 万亿个 token 上进行了训练。该模型采用了具有 72 亿总参数和 6 亿激活参数的混合专家（MoE）架构，这有助于减少语言之间的容量竞争。这种方法使 Lara Mini Base 在英语、多语言、数学和…