Apple M2 Pro
PulseAugur coverage of Apple M2 Pro — every cluster mentioning Apple M2 Pro across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
新的低光图像增强方法实现高PSNR/SSIM
一种新的无训练低光图像增强方法已被开发出来,结合了局部光照估计、Retinex分解和边缘保持去噪。该方法利用条件负二项伪计数方法来表征分解过程中放大的异方差噪声,从而得到无约束的反射率比估计。该方法在LOL-v1数据集上实现了17.74dB/0.739的平均PSNR/SSIM,优于传统技术。此外,它可以在Apple M2 Pro CPU上以大约43 FPS的速度处理400x600的图像。
-
QuarkStar 引擎可在 16GB 机器上运行大型语言模型
一款名为 QuarkStar 的新型推理引擎已被开发出来,其灵感来源于 DwarfStar,但针对低配置硬件进行了优化。它使得 Qwen3.6-35B-A3B 和 KAT-Coder-V2.5-Dev 等大型语言模型能够在内存仅为 16GB 的机器上运行,在 Linux 上使用 Vulkan,在 Apple Silicon 上使用 Metal。该引擎还支持 SSD 流式传输,以运行超出可用内存的模型,旨在无需昂贵的硬件即可实现强大的本地 AI。
-
MoE模型在消费级和边缘硬件上的推理表现不一
一项最新研究调查了混合专家(MoE)语言模型在消费级和边缘硬件上是否提供实际的推理优势。研究发现,虽然MoE模型理论上可以减少每个token的计算量,但这种优势在实践中并非总是能实现。性能因设备而异,MoE模型在笔记本电脑上表现略有劣势,在边缘设备上劣势更明显,消耗更多能量并达到内存限制。
-
Ideogram4 图像模型针对 16GB Apple Silicon Mac 进行了优化
一位开发者已成功将 Ideogram4 图像生成模型优化,使其能在 16GB Apple Silicon Mac 上运行,具体为 M2 Pro。通过原生 MLX 内核和 NF4 量化实现的优化,可以在大约 11 分钟内生成 512x512 图像,峰值内存使用量为 11.51 GB。开发者还发布了代码和实时演示,并指出此 NF4 版本在同等硬件上比 mFLUX FP8 和 GGUF Q4 更快。
-
llama.cpp PR 将 k-quant 模型速度提升高达 3.78 倍
llama.cpp 项目的一个拉取请求(pull request)为 k-quantized 模型引入了优化,显著提高了预填充速度。这些更改侧重于各种量化级别(包括 Q4、Q5 和 Q8)的矩阵乘法(matmul)操作。在 M2 Pro 芯片上的基准测试显示,某些量化的速度提升高达 3.78 倍,从而提高了本地大型语言模型的性能。