NVIDIA 推出了 RTX Spark，这是一款专为 Windows 笔记本电脑设计的新芯片，能够实现大型语言模型的本地运行。这项创新主要得益于 128GB 的统一内存，它允许 CPU 和 GPU 共享一个单一的大型内存池，消除了在独立内存存储之间不断进行数据交换的需要。这种架构类似于 Apple 的 M 系列芯片，能够直接在笔记本电脑上运行拥有多达 1200 亿参数和一百万 token 上下文的模型，而无需依赖云端。NVIDIA 的 CUDA 软件栈的集成通过将开发者熟悉的开发流程带到这个便携式平台，进一步赋能了开发者。 AI
影响 使强大的本地人工智能推理能力在消费级笔记本电脑上成为可能，可能减少许多人工智能任务对云的依赖。
排序理由 新硬件产品为一家主要科技公司带来了重大的新功能。[lever_c_demoted from significant: ic=1 ai=0.7]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
