实体 VisionQuantech

VisionQuantech

PulseAugur coverage of VisionQuantech — every cluster mentioning VisionQuantech across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

0

90 天内 0

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_284931 · Oct 7 · 04:52

开发者用免费 GPU 从零开始构建了一个小型的 1.88 亿参数混合专家模型

VisionQuantech 的创始人 Shivam Kumar 详细介绍了如何仅使用免费的 Nvidia T4 GPU 构建一个小型、拥有 1.88 亿参数的混合专家（MoE）语言模型的流程。他采用了一种名为 Main Researcher System v4 的方法，该方法涉及从现有研究中提取 MoE 原始概念和元模式，使用 TRIZ 原理解决矛盾，并利用组合引擎筛选潜在架构。由此产生的模型 DeepSeekMoE-tiny，在计…