PulseAugur
中
实时 07:49:54
实体 Flash MoE

Flash MoE

PulseAugur coverage of Flash MoE — every cluster mentioning Flash MoE across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 1
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
  1. TOOL · CL_278870 ·

    Flash-MoE 使 397B 参数 LLM 能够在 48GB 笔记本电脑上运行

    一种名为 Flash-MoE 的新技术允许一个拥有 3970 亿参数的庞大模型 Qwen3.5-397B-A17B 在只有 48GB RAM 的 MacBook Pro 等消费级硬件上运行。这是通过利用专家混合(MoE)架构实现的,其中每个 token 只激活模型参数的一小部分,其余参数可以从 SSD 流式传输。这种方法受到一篇先前未发布的 Apple 论文的启发,显著减小了内存占用,尽管与基于云的解决方案相比,推理速度较慢。

  2. FRONTIER RELEASE · CL_02784 ·

    DeepSeek V4 模型提供高性能,同时降低推理成本并支持 NPU

    DeepSeek 发布了其 V4 系列开源大语言模型,其中包括一个拥有 1.6 万亿参数的模型和一个拥有 2840 亿参数的较小 Flash MoE 模型。这些新模型声称在性能上可与顶级的专有 LLM 相媲美,同时显著降低了推理成本。实现这一效率的关键在于架构创新,例如混合注意力机制和使用较低精度的数据类型(FP8 和 FP4),从而能够以大大减少的内存实现百万级 token 的上下文窗口。