Self-Attn

新的Mobius-v0架构解耦知识与推理，加速AI推理

研究人员推出了一种新颖的基础模型架构Mobius-v0，它将知识存储与推理过程解耦。该设计利用共享内存组件存储知识向量，并使用多个推理模块迭代访问该内存。Mobius-v0架构展示了改进的知识压缩和推理效率，一个7B参数的模型在下游任务得分上可与Transformer基线模型媲美，但使用的训练数据更少。此外，基于Qwen3.5-35B构建的Intern-S2-Mobius变体，在性能相似的情况下，推理速度提高了近四倍。