实体 Mininglamp AI

Mininglamp AI

PulseAugur coverage of Mininglamp AI — every cluster mentioning Mininglamp AI across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

0

90 天内 0

层级分布 · 90 天

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_49072 · May 25 · 08:16

Mininglamp AI 为 MLX 添加 W8A8 量化以加速 Apple Silicon 推理

Mininglamp AI 开发了 Cider，一个通过添加 W8A8 激活量化来增强 MLX 框架的新 SDK。此优化显著加快了 Apple Silicon 上大型视觉语言模型的预填充过程，将 M5 Pro 芯片上的预填充时间从 2.84 秒减少到 2.52 秒。该 SDK 利用自定义 Metal 内核，并为通过 MLX 运行的模型提供性能改进，尽管 INT8 TensorOps 仅限于 M5 及以上处理器。