用户质疑在AI模型训练过程中,除了存储模型权重之外,是否真的需要额外的VRAM。他们询问与仅仅运行模型相比,存在的额外VRAM开销是什么。 AI
影响 澄清了关于AI模型训练VRAM需求的常见误解。
排序理由 该条目是用户在社交媒体平台上提出的关于AI训练基础设施的问题,并非主要来源的公告或研究。
在 Mastodon — mastodon.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
用户质疑在AI模型训练过程中,除了存储模型权重之外,是否真的需要额外的VRAM。他们询问与仅仅运行模型相比,存在的额外VRAM开销是什么。 AI
影响 澄清了关于AI模型训练VRAM需求的常见误解。
排序理由 该条目是用户在社交媒体平台上提出的关于AI训练基础设施的问题,并非主要来源的公告或研究。
在 Mastodon — mastodon.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
完整方法见我们的编辑标准。
Why exactly do you need more VRAM than just for storing the AI model for training it? Isn't AI training just literally updating the weights aka numbers in the matrix? What is all of the other VRAM getting used for? Aka. what's the overhead compared to just "running it"? # AI # Co…