mlx-vlm
PulseAugur coverage of mlx-vlm — every cluster mentioning mlx-vlm across labs, papers, and developer communities, ranked by signal.
-
本地 VLM 管道 Scribe 针对临床表格数据提取进行基准测试
一个名为 Scribe 的新本地管道已被基准测试，以评估其将手写临床表格转换为结构化数据的能力。该管道专为离线优先的医疗环境设计，使用了 Apple M5 Max 芯片和通过 OpenAI 兼容 API 提供的模型，在九种配置下进行了测试。主要发现表明，人工审查对于准确性至关重要，因为模型即使在不正确时也常常报告高置信度，并且该管道优先将不确定的字段路由给人工操作员，而不是进行猜测。
-
LLM 通过新技术在消费级硬件上实现大规模上下文窗口
研究人员正在开发创新方法，使大型语言模型 (LLM) 能够处理更大的上下文窗口，即使在消费级硬件上也是如此。一种名为 JustFit 的方法使用 KV 压缩和状态管理等技术，在具有 24 GiB RAM 的笔记本电脑上提供 200K 令牌 LLM，实现了超过先前基线 6 倍的上下文。另外，一个 44M 参数的量化 LLM 从头开始训练，模型大小为 19.8 MB，在 CPU 上速度约为 1,900 令牌/秒，展示了推理和状态保持转换的…
-
unofficial Qwen3.8-27B 衍生模型发布，抑制了拒绝行为
PocketAI Model Lab 发布了一系列 unofficial 的 Qwen/Qwen3.8-27B 模型的 MLX 衍生版本。这些变体包括 2 位 AWQ、4 位、6 位、8 位和 BF16 版本，经过修改以抑制学习到的拒绝行为，可能导致更具危害性或冒犯性的内容。模型已进行行为评估和功能验证，大多数变体通过了质量和工具调用检查，但 2 位 AWQ 版本被标记为实验性且存在局限性。
-
Nativ 应用支持在 Mac 上本地执行 AI 模型
Nativ 是一款新的 macOS 桌面应用程序，允许用户在自己的 Mac 上本地运行 AI 模型。Nativ 由 MLX-VLM Python 库的创建者 Prince Canuma 开发，利用 MLX 提供聊天界面和本地主机 API 服务器。该应用程序会自动检测并加载用户 Hugging Face 缓存中的 MLX 模型。
-
Nativ 将本地 LLM 推理引入 Apple Silicon Mac
Nativ 是一款新的开源应用程序，旨在 Apple Silicon Mac 上本地运行大型语言模型。它强调隐私和离线使用，没有云依赖或订阅费用。该应用程序使用 mlx-vlm 构建，并提供诸如用于编码代理的本地端点和性能指标的实时遥测等功能。
-
MiniMax M3 Q4 模型在 Mac Studio 上完成美国海关表格
MiniMax AI 展示了其 M3 Q4 模型在 Mac Studio M3 Ultra 上本地运行。该开源模型使用 MLX-VLM 框架成功处理了美国海关表格，并从身份证照片和扫描文件中提取了信息。
-
MiniMax M3 模型在 MLX-VLM 上优化以实现更快的解码
MiniMax AI 的 MiniMax M3 模型在 MLX-VLM 框架上获得了社区驱动的优化，以实现更快的解码。这些改进旨在减小模型体积并提高其速度。贡献者是用户 ivanfioravanti。
-
MiniMax AI 庆祝社区对 M3 开源权重的贡献
MiniMax AI 正在庆祝开源社区对其 M3 开源权重所做的贡献。mlx-vlm 项目已集成对 MiniMax M3 的支持，包括对现代标准阿拉伯语的实现。此集成在 M3 Ultra 512GB 系统上进行了测试，实现了每秒 24 个 token 的处理速度，峰值内存使用量约为 240GB。