实体
Phi-3.5-MoE-instruct
Phi-3.5-MoE-instruct
PulseAugur coverage of Phi-3.5-MoE-instruct — every cluster mentioning Phi-3.5-MoE-instruct across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
发布新的韩语指令语料库,由Phi-3.5-MoE-instruct生成
研究人员发布了GLAN-QnA-KR,这是一个包含超过30万条记录的大规模韩语指令问答语料库。该语料库使用Microsoft的Phi-3.5-MoE-instruct模型和无种子、驱动式分类的合成管道生成。值得注意的是,该数据集的重复问题率很低,并已针对多个韩语基准进行了污染审计,与测试集的重叠度很小。
-
SARA框架增强了混合专家模型中的多语言能力
研究人员推出了一种名为SARA(Semantically Anchored Routing Alignment,语义锚定路由对齐)的新框架,旨在提高混合专家(MoE)模型在低资源语言上的性能。SARA解决了低资源语言的token经常被路由到与高资源语言不同专家的问题,阻碍了跨语言知识共享。通过使用Jensen-Shannon散度约束,SARA对齐了MoE层的内部路由分布,促进了跨语言的专家选择一致性。实验表明,SARA在Qwen3-3…