Ling-flash-2.0

开源 AntAngelMed 模型以 103B 参数提供高效医疗 AI

研究人员推出 AntAngelMed，一个拥有 1030 亿参数的开源医疗语言模型。它采用了专家混合（MoE）架构，每次查询仅激活 61 亿参数，从而提高了效率。这种设计使其在 H20 硬件上能够以超过每秒 200 个 token 的速度，媲美 400 亿参数密集模型的性能。该模型支持 128K 上下文长度，并经历了包括在医学语料库上预训练、监督微调和强化学习在内的三阶段训练过程。