PulseAugur
中
实时 18:05:09
实体 flyweight

flyweight

PulseAugur coverage of flyweight — every cluster mentioning flyweight across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
0
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_261826 ·

    开源 Flyweight 引擎支持在单 GPU 上使用系统 RAM 运行大型 MoE 模型

    Flyweight 是一个开源的 C++/CUDA 引擎,已在 PyPI 上发布,旨在通过利用系统 RAM 来运行超出单个 GPU VRAM 容量的混合专家(MoE)模型。该引擎支持 Qwen、DeepSeek-V4 和 Gemma 等多种模型,并提供 OpenAI/Anthropic 兼容 API 和聊天 UI 等功能。开发者正在寻找贡献者来扩展硬件支持,特别是 AMD 和 macOS 系统,并优化 CPU expert kernels。