实体 qMLX

qMLX

PulseAugur coverage of qMLX — every cluster mentioning qMLX across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

0

90 天内 0

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_149682 · Jul 18 · 07:44

Mac Studio 通过优化的冷缓存高效服务 Qwen3.5-122B

一位开发者优化了 qMLX 引擎，以便在内存为 96GB 的单台 Mac Studio 上高效地为 Qwen3.5-122B 模型的多个会话提供服务。通过实施一种严重依赖磁盘 KV 缓存的冷缓存策略，系统显著减少了预填充计算量，从而能够以最小的 GPU 负载运行并发会话。此优化使得本地模型可用于子代理功能。