M5 Ultra
PulseAugur coverage of M5 Ultra — every cluster mentioning M5 Ultra across labs, papers, and developer communities, ranked by signal.
- 2026-08-26 product_launch Apple's M5 Ultra chip is released with Matrix accelerators to speed up AI prompt processing. 来源
- 2026-08-25 product_launch Apple has launched its new M5 Ultra chip, featuring a quad-die architecture and enhanced performance for the Mac Studio. 来源
- 2026-08-25 product_launch Apple has launched its new M5 Ultra chip, featuring a memory bandwidth of 1.2 TB/s. 来源
8 天有情绪数据
M5 Ultra's AI acceleration may be limited to specific on-device models
The M5 Ultra chip's advertised 4x speedup in prompt processing is specifically tied to 'local AI applications' and 'prefill tasks'. This suggests the hardware acceleration might be optimized for Apple's own on-device models or specific inference frameworks, rather than offering a universal speedup for all AI workloads.
M5 Ultra chip's AI performance claims are being contrasted with OpenAI's custom silicon
While Apple is touting the M5 Ultra's AI capabilities, OpenAI's recent announcement of its custom Jalapeño chip, which reportedly outperforms Nvidia for LLM inference, sets a new benchmark. This creates a competitive landscape where M5 Ultra's performance will be evaluated not just against previous Apple chips, but also against emerging custom AI silicon from major AI labs.
Apple may release software updates to broaden M5 Ultra's AI model compatibility within 90 days
Given the specific focus on prefill acceleration for 'local AI applications,' Apple may need to release software updates or developer tools to enable broader compatibility with popular third-party AI models. This would be a logical next step to fully leverage the M5 Ultra's specialized hardware for a wider range of AI tasks beyond initial use cases.
Apple to release M5 Ultra chip developer toolkit within 60 days
Given the specific mention of the M5 Ultra chip's capabilities in accelerating AI prompt processing and targeting prefill bottlenecks, it's plausible Apple will release a dedicated developer toolkit. This would allow third-party developers to optimize their AI applications for the new chip's architecture, potentially leading to wider adoption and showcasing the chip's full potential.
M5 Ultra chip's AI acceleration focuses on prompt prefill, not generation speed
Multiple sources highlight that the M5 Ultra chip's primary AI performance improvement is in processing prompts up to 4x faster, specifically targeting prefill tasks. This suggests that while initial response latency may decrease, the actual AI model generation speed might not see a proportional increase, indicating a nuanced performance gain for users.
-
老旧Xeon PC在大型语言模型性能上与现代Mac Studio竞争
一台2014年的Xeon平台电脑,配备128GB DDR3内存和两块GPU(RTX 4070和RTX 3060),与两台搭载M5 Max和M5 Ultra芯片的Apple Mac Studio进行了测试。尽管Macs价格昂贵得多,但在运行大型语言模型方面,它们的速度是Xeon平台的两到四倍。不含GPU的整个Xeon平台价格为638欧元,而Macs的价格则高得多。
-
llama.cpp 发布 b12300 版本,进行图节点优化
llama.cpp 项目已发布 b12300 版本,包含多项优化和特定图节点的移除。值得注意的是,该版本移除了非融合 GDN 和 ubatch 依赖的图节点,并确保 graph_max_nodes 不再依赖于 ubatch 大小。这些更改旨在简化构建过程并可能提高性能。
-
Apple Mac Studio搭载M5 Ultra在AI基准测试中挑战Nvidia DGX Spark
搭载M5 Ultra SoC的Apple Mac Studio正与Nvidia DGX Spark进行本地AI性能基准测试。Mac Studio配备了36核CPU和80核GPU,并集成神经网络加速器,拥有高达512GB的统一内存,在代理AI任务中表现出色。在使用llama.cpp通过AgentPerf-Local基准测试Qwen 3.8 27B模型时,Mac Studio完成任务的时间不到DGX Spark类系统的二分之一,且能耗降低了16%。
-
尽管具有成本优势,苹果的 M6 芯片在图形性能上落后于英伟达 GPU
苹果新款 M6 芯片搭载于最新的 Mac mini 中,在视频转码等任务上提供了强大的 CPU 和通用性能。然而,与专用的英伟达 GPU 相比,它在游戏和实时图形方面表现明显不足。尽管 M6 芯片的 Metal 分数低于上一代 M5 Ultra,但英伟达 GPU,即使是像 RTX 4080 这样的旧型号,也提供了更强大的图形处理能力。尽管存在性能差距,但 M6 芯片由于其与配备英伟达 GPU 的同等 PC 相比成本较低,因此具有吸引力的价值主张。
-
llama.cpp Metal 后端融合 DeepSeek 和 GLM 模型的 MoE 路由
llama.cpp 项目发布了一个更新,通过融合各种混合专家(MoE)路由机制来增强其 Metal 后端。此更新专门针对 DeepSeek-V4、DeepSeek-V4.1 以及 GLM、DeepSeek-V2 和 DeepSeek-V3.2 等模型,提高了它们在 Apple Silicon 硬件上的性能。优化包括融合 sigmoid 和 sqrt(softplus) MoE 路由与选择偏差,以及使用 scale-bias 对路由权重…
-
Apple 将 MacBook Pro 存储容量提升至 16TB,公布 Mac Studio 内存升级价格
Apple 发布了其 MacBook Pro 和 Mac Studio 系列的新配置,提供了显著增加的存储和内存选项。最新的 MacBook Pro 型号现在可以配置高达 16TB 的内部存储空间,是之前最大容量的两倍。此外,Apple 还公布了配备 512GB 内存的 Mac Studio 的价格,该配置之前已公布但未提供价格详情。
-
Apple 提供配备 512GB RAM 的 Mac Studio;PowerToys 新增鼠标功能
Apple 发布了其 Mac Studio 的新配置,现在配备 M5 Ultra 芯片可提供高达 512GB 的 RAM。此高内存选项在美国的起售价为 22,299 美元,最初承诺于 10 月下旬发布。另外,Microsoft 的 PowerToys 工具已更新,引入了两项旨在增强 Windows 用户鼠标功能的新功能。
-
Apple 发布搭载 M5 Ultra 芯片的 Mac Studio,起售价 22,299 美元
Apple 发布了搭载 M5 Ultra 芯片的 Mac Studio,512GB 型号起售价为 22,299.00 美元。这款高端工作站面向高要求任务,可能包括本地 AI 模型开发和推理。
-
LLM 部署:本地与云端的成本效益分析
当模型能够容纳在机器内存中且数据隐私至关重要时,在本地运行大型语言模型是可行的。对于超出本地容量的更大模型或批量作业,基于云的解决方案更为合适。通过比较硬件成本与云端每小时费率,可以量化本地硬件与云服务之间的选择,在持续使用几年后,本地拥有权会更具成本效益。
-
Meta发布816B Muse Spark Open模型用于智能体,附带使用限制
Meta发布了Muse Spark Open,一个拥有8160亿参数、420亿活跃参数的模型,专为智能体任务和编码设计。该模型拥有100万token的上下文窗口和原生多模态能力,Meta声称它是迄今为止最强大的美国开源模型。虽然它在工具调用方面表现出色,但在原始编码和通用智能基准测试上的表现落后于一些中国的领先模型。Muse模型许可证限制了年收入超过2000万美元的服务进行商业使用,除非另有协议,这与传统的开源许可证有所区别。
-
Muse Spark Open AI 模型需要高端 Apple 硬件
一款名为 Muse Spark Open 的新 AI 模型已发布,被描述为功能强大但需要大量硬件资源。据报道,该模型需要 Apple M5 Ultra Mac Studio 才能在不崩溃的情况下执行诸如说“Hello World”之类的基本功能。此版本以使用“agentic capabilities”等流行语为特征。
-
Meta发布面向Mac的800B参数开放权重AI模型
Meta发布了Muse Spark Open,这是一个拥有8000亿参数的开放权重AI模型,专为Apple Silicon Mac优化。该公司声称,该模型是迄今为止最强大的美国开放权重模型,在代理任务和视觉推理方面优于领先的中国模型。在本地运行该模型需要大量的1TB RAM,因此最适合配备M5 Ultra芯片的高端Mac Studio机器,并且可以通过Hugging Face下载。
-
Meta 和 Apple 合作在 Mac 上运行新的 Muse AI 模型
Meta 和 Apple 宣布合作,为 Apple 的 Mac 电脑优化 Meta 新的 Muse Spark Open AI 模型。Meta 的 AI 主管将此次合作描述为“爸爸妈妈又和睦相处了”,这标志着这两大科技巨头之间缓和了关系。Muse Spark Open 模型被誉为最强大的美国开源模型,拥有 8160 亿个参数,专为软件工程和复杂推理等任务设计。Apple 的参与包括使用其针对 Apple Silicon 的 MLX 框…
-
NVIDIA 9年前的Tesla V100 GPU展现出惊人的推理性能
NVIDIA较旧的Tesla V100 GPU,尽管已发布九年,但仍持续展现出显著的推理能力。在NVLink板上配置四块V100 GPU,在特定AI基准测试中已被证明可以超越M5 Ultra和DGX Spark等较新硬件,优势高达230%。这表明,较旧的专用硬件在某些AI任务,特别是推理任务中,仍然具有价值。
-
用户就 M5 Ultra 与双 DGX Spark 本地 LLM 硬件寻求建议
一位 Reddit r/LocalLLaMA 论坛用户正在就本地运行大型语言模型的硬件寻求建议。他们正在 M5 Ultra(256GB 内存)和两个 DGX Spark 单元之间做决定。用户研究发现,虽然 M5 Ultra 在 token 生成速度上相当或略优,但双 DGX Spark 在提示处理和处理多个并行请求方面表现更佳,这对于 agentic 编码任务至关重要。他们意识到可能存在性能权衡,但目标是运行更大的模型,并正在寻找用户…
-
Mac Studio M5 Ultra:64 核 vs. 80 核在 LLM 推理速度上的选择
一位 Reddit 用户正在就购买配备 M5 Ultra 64 核或 80 核处理器的 Apple Mac Studio 寻求建议。他们正在权衡交付时间和成本的显著差异与本地 LLM 推理(特别是提示处理和 token 生成)的潜在性能提升。用户指出,两种配置共享相同的内存带宽,并希望了解实际速度差异以及升级是否合理。
-
Apple Mac Studio 搭载新芯片,价格上涨
自 2022 年首次亮相以来,Apple 的 Mac Studio 在保持其独特的铝制机身的同时,经历了显著的内部升级。最新的 M5 Ultra 型号拥有 512GB 内存和 1.2TB/s 的数据传输速度,与最初的 M1 Ultra 相比有了巨大飞跃。近期的型号价格有所上涨,特别是 M4 Max 和 M3 Ultra 版本,这归因于内存成本的上升以及对本地 AI 模型处理的需求。
-
本地LLM硬件:小模型用GPU,大模型用统一内存
在本地运行大型语言模型方面,硬件格局已根据内存容量和速度划分为不同类别。RTX 5090等消费级GPU在内存不超过32GB的小模型上表现出色,提供高内存带宽以实现快速生成。超过32GB的大模型则受益于Apple Mac等系统以及NVIDIA和AMD的专用硬件中采用的统一内存架构,在这种情况下,速度的重要性不如加载模型本身。
-
M5 Ultra 芯片在 LLM 基准测试中表现出潜力
新款 M5 Ultra 芯片的基准测试已经出现,显示出本地大型语言模型具有良好的性能。早期测试表明,在 8k 上下文长度下,M5 Ultra 可以以 50 tokens/秒的吞吐量和 1800 tokens/秒的提示处理速度处理 Qwen 3.8 27B 模型。这些结果表明 M5 Ultra 可能是运行本地 LLM 的高效硬件选项。
-
Apple M5 Ultra 处理器泄露,挑战英伟达 AI 主导地位
苹果新款 M5 Ultra 处理器在泄露的 Geekbench 7 基准测试中显示,与前几代相比性能大幅提升,几乎是 M2 Ultra 系统输出的两倍。这种增强的处理能力使 Mac Studio 不仅仅是视频编辑工具,而是成为运行大型 AI 模型本地化的强大工作站。M5 Ultra 的能力,特别是其处理 Llama-3.1-405B 等拥有数千亿参数的模型的能力,与高端 NVIDIA GPU 相比,提供了比基于云的 AI 开发更私密且…