澳大利亚AI实验室Maincode发布了一个名为Matilda Platypus的新语言模型家族,该模型采用了一种称为模型缝合(Model Stitching)的技术。这些模型将一个较大的预训练Qwen 3模型的底层与一个较小的模型顶层连接起来,并使用一个学习到的表示桥(Representation Bridge)来对齐它们的隐藏表示。模型的参数量从15亿到130亿不等,并提供基础模型。早期测试显示结果令人鼓舞,并且默认语气良好。 AI
影响 引入了一种新颖的模型缝合技术,用于创建中等规模的语言模型。
排序理由 非前沿实验室发布新的微调语言模型。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →