M-series chips
PulseAugur coverage of M-series chips — every cluster mentioning M-series chips across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
通过量化和优化软件，大语言模型缩小以适应笔记本电脑
由于量化、统一内存架构和优化软件的进步，现在在消费级硬件上本地运行大型语言模型（LLM）已成为可能。将模型权重减少到4位整数等技术显著降低了内存需求，使得一个30B参数的模型能够装入大约15-20 GB的内存中。苹果的M系列芯片凭借其统一内存，通过避免数据传输瓶颈在此方面表现出色。此外，模型本身的优化运行时和架构改进也有助于在笔记本电脑和PC上实现实用的推理速度。
-
Apple's failed car project seeded powerful AI chip legacy
Apple's defunct self-driving car initiative inadvertently spurred the development of its powerful AI chips. The project's need for on-device AI processing led to the creation of the Neural Engine, which is now a core co…
-
NVIDIA 笔记本电脑通过 RTX Spark 芯片获得本地 LLM 功能
NVIDIA 推出了 RTX Spark，这是一款专为 Windows 笔记本电脑设计的新芯片，能够实现大型语言模型的本地运行。这项创新主要得益于 128GB 的统一内存，它允许 CPU 和 GPU 共享一个单一的大型内存池，消除了在独立内存存储之间不断进行数据交换的需要。这种架构类似于 Apple 的 M 系列芯片，能够直接在笔记本电脑上运行拥有多达 1200 亿参数和一百万 token 上下文的模型，而无需依赖云端。NVIDIA …