实体
Mi50s
Mi50s
PulseAugur coverage of Mi50s — every cluster mentioning Mi50s across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
MiniMax M3 LLM 在旧款 MI50 GPU 上进行测试，讨论了性能和优化
一位用户分享了在旧硬件上运行 MiniMax M3 大型语言模型的经验，具体使用的是 2018 年的 8-16 个 MI50 GPU。虽然与新模型相比，所达到的速度对于代理编码任务来说不理想，但用户指出通过软件和硬件堆栈更新进行优化的潜力。该帖子详细介绍了推理引擎、使用的 Huggingface quants，并提供了使用不同配置运行模型的具体命令，包括 token 生成和处理的性能指标。
-
Reddit 用户分析 GPU 规格以实现 LLM 预填充性能
r/LocalLLaMA 上的一个 Reddit 用户分析了各种 GPU 和机器在运行大型语言模型方面的适用性，强调了预填充性能相对于原始生成速度的重要性。分析表明，虽然像 3090 这样的高端 GPU 对于单流使用来说可能有点过头，但像 P100 这样的旧卡因其内存和带宽而具有显著价值。用户还指出，与其它选项相比，Mac Studio 定价过高且效率低下，并正在寻求用户提交的功耗数据以进一步完善其性能图表。