PulseAugur
实时 19:33:58
Norsk(NO) Fine tuning on DGX spark vs 4x 3090?

学生寻求 GPU 建议用于 AI 可解释性研究

一位学生研究员正在寻求关于获取 GPU 硬件用于机械可解释性研究的建议,特别比较了 DGX Spark 系统与四块 NVIDIA RTX 3090 GPU 的性能。用户担心 3090 的电力成本和潜在的硬件故障,同时承认 DGX Spark 可能在大型模型的微调速度上较慢。他们正在寻找用户经验来指导他们的决定,因为他们主要依赖借用的云 GPU,并考虑用奖学金购买自己的硬件。 AI

排序理由 用户在 subreddit 上生成的内容,询问硬件建议,而非重大的行业事件。

在 r/LocalLLaMA 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

报道来源 [1]

  1. r/LocalLLaMA TIER_1 Norsk(NO) · /u/kidfromtheast ·

    DGX Spark 微调 vs 4x 3090?

    <!-- SC_OFF --><div class="md"><p>hey, my research direction don’t focus on inference or eval benchmarks. specifically, it’s mech interp research direction, analyzing how models do computation etc</p> <p>i dont have GPU, mostly using cloud GPUs loaned by third parties. i saved up…