M4 Max
PulseAugur coverage of M4 Max — every cluster mentioning M4 Max across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
Claude AI 协助用户通过修改 macOS 内核来超频 M4 Max GPU
一位 Reddit 用户报告称，Anthropic 的 Claude AI 协助他们修改了新的 macOS beta 内核的电源管理系统。据称，此修改允许手动控制 M4 Max GPU 的散热预算和功率目标，从而能够在超出标准散热限制的情况下进行超频。该用户在 GitHub 上分享了核心代码的链接，并指出需要进行具有特定权限的主机注入才能实现这些更改。
-
oMLX 通过 KV 缓存提升 Apple Silicon LLM 性能
oMLX 是一个面向 Apple Silicon 的开源 LLM 推理服务器，在处理大型模型和复杂工作流方面展现出显著的性能提升。社区基准测试和本地测试突显了 oMLX 相较于 Ollama 和 LM Studio 等替代方案的优势，尤其是在涉及编码代理和持久化 KV 缓存的场景中。该服务器利用 SSD 进行 KV 缓存的能力极大地缩短了首次令牌生成时间 (TTFT)，使得 Claude Code 和 Qwen3-Coder-Next…
-
Mac 对 NVIDIA GPU：为本地 LLM 选择合适的硬件
在本地运行大型语言模型方面，Apple Silicon Mac 和 NVIDIA GPU 各有优势。Mac 因其统一内存架构，在运行大型模型推理方面表现出色，可以更轻松、更安静地处理高达 70B 参数的模型。然而，NVIDIA GPU 在运行小型模型方面提供卓越的原始速度，并且由于其 CUDA 生态系统，对于微调和生产服务等任务至关重要。
-
本地大模型：M5 Max MacBook Pro 对比 M4 Max MacBook Pro 用户寻求建议
一位数据科学家正在寻求建议，关于是购买一台翻新的 M4 Max 芯片 MacBook Pro 还是新款 M5 Max 芯片 MacBook Pro 来运行本地大语言模型。M5 Max 在 CPU 核心和内存带宽方面略有提升，可能有助于提高 Gemma 4 31B 和 Qwen 3.6-27B 等模型的数据推导和提取任务的性能。最终决定取决于 1,120 美元的差价是否值得新款芯片带来的性能提升。
-
新指标“每瓦特智能”衡量本地AI效率
一项新的研究论文引入了“每瓦特智能”（IPW）作为评估本地AI模型效率的指标。研究发现，本地模型可以准确回答88.7%的现实世界查询，并且在2023年至2025年间IPW提高了5.3倍。与基于云的解决方案相比，本地加速器也显示出至少低1.4倍的IPW，这表明本地推理可以显著减轻集中式基础设施的需求。
-
Apple的MLX框架加速Mac上的本地LLM
Apple的MLX框架正在显著提升Apple Silicon Mac上的本地LLM性能，其表现优于llama.cpp等工具。LM Studio，一个流行的LLM前端，现在在Apple Silicon上利用MLX，与之前的默认设置如llama.cpp相比，速度有了大幅提升。这种优化使得统一内存得到高效利用，从而可以在内存充足的Mac上流畅运行更大的模型。