SmolVLA-MoE

SmolVLA-MoE 通过稀疏专家混合模型增强机器人操作能力

研究人员推出了一种新颖的框架 SmolVLA-MoE，该框架通过引入稀疏专家混合（MoE）方法来增强用于机器人操作的视觉-语言-动作（VLA）模型。该方法用多个专家前馈网络（FFN）和一个路由器替换了密集的前馈网络（FFN）层，允许每个 token 动态选择最适合动作生成的专家。SmolVLA-MoE 在推理过程中仅激活一个专家 FFN，利用约 5 亿激活参数，同时受益于总共 8 亿存储参数。在 LIBERO 基准测试上的评估表明，S…