Nvidia 的 RTX Spark 笔记本电脑专为 AI 开发而设计,但在运行 Linux 时,由于加密固件限制了 GPU 时钟速度,导致性能大幅下降。Windows 系统允许 GPU 达到 2 GHz 以上,而 Linux 版本将其锁定在约 780 MHz,导致在 1200 亿参数模型上的推理速度从每秒 65 个 token 急剧下降到约每秒 14 个 token。此问题源于 Nvidia 专有的平台控制器和框架,它们负责管理电源,而 Linux 无法访问。与此同时,Nvidia 还展示了对其 DGX Spark 台式机系统的优化,通过内核改进、FP8 输出层和推测解码,将混合专家(MoE)推理吞吐量提高了 42% 以上,显示出在加速其硬件上的 AI 工作负载方面取得了进展。 AI
影响 AI 开发硬件上的性能瓶颈会减慢 AI 应用的研究和开发周期。
排序理由 该集群讨论了特定硬件(Nvidia RTX Spark 笔记本)在特定操作系统(Linux)上的性能问题,这是一个技术/工具问题,而不是新的前沿发布或重大的行业范围事件。
在 Mastodon — mastodon.social 阅读 →
- Ant Group
- DGX Spark
- FlashInfer
- FP8
- GSM8K
- inclusionAI
- Ling-3.0-flash
- Nvidia
- NVIDIA GB10 Grace Blackwell Superchip
- speculative decoding
- Linux
- NVIDIA DGX Spark
- GPT-OSS 120B
- MSI Prestige N16 Flip AI Plus
- Nvidia RTX Spark
- vLLM
- Windows Subsystem for Linux
AI 生成摘要 · Google Gemini · 来自 4 个来源。 我们如何撰写摘要 →