PyTorch 2.15 为 Apple Silicon Mac 带来了显著的性能提升,包括支持 FP8 以减少内存使用和加快计算速度。此次更新还为专家混合 (MoE) 模型带来了显著的加速,部分解码任务速度提升高达 6.5 倍。此外,线性层和 softmax 操作的优化使所有大型语言模型受益,而特定的内核则提高了音频、视频和通用训练工作负载的性能。 AI
影响 加速 Apple Silicon Mac 上的本地 LLM 推理和 AI 工作负载,使其更适合开发和部署。
排序理由 这是对软件库 (PyTorch) 的更新,它提高了特定硬件 (Mac) 的性能,而不是新的前沿模型发布或重大的行业范围事件。
- bfloat16
- CUDA
- FP8
- Hugging Face
- LFM2.5-8B-A1B
- M3 Ultra
- Mac
- macOS
- Python
- PyTorch
- Qwen3.6 35B-A3B
- Wan2.2
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →