实体
rapid-mlx
rapid-mlx
PulseAugur coverage of rapid-mlx — every cluster mentioning rapid-mlx across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 3 条
-
mlx-community/Ornith-1.0-35B-OptiQ-4bit 模型因速度快而受到称赞
一位 Mastodon 用户分享了他们使用 mlx-community/Ornith-1.0-35B-OptiQ-4bit 模型的体验，并称赞其速度非凡。该帖子还提到了使用 Rapid-MLX 和混合缓存配置。
-
QuantProof工具可自动执行LLM量化，以实现特定任务的性能
QuantProof是一款新工具，旨在帮助用户为其特定任务确定最佳模型量化。它自动化了针对用户真实数据运行各种模型的过程，并测量准确性、速度和内存使用量等性能指标。该工具强调，最佳模型取决于任务，单一排行榜无法捕捉这种细微差别，因此主张直接测量而非估算。
-
M1 Max 推理引擎基准测试：rapid-mlx 领先
一位爱好者在 M1 Max MacBook Pro 上使用 Qwen3.5-4B 模型对多个推理引擎进行了基准测试。结果提交给 mlx-chronos 社区基准测试后表明，rapid-mlx 在速度和内存效率方面提供了最佳性能。该用户现在正在使用 rapid-mlx 来部署 Qwen35b-A3b 模型。