Mlx
PulseAugur coverage of Mlx — every cluster mentioning Mlx across labs, papers, and developer communities, ranked by signal.
- developed by Muse Glimmer 95%
- used by Apple Neural Engine 90%
- used by Prince Canuma 90%
- uses Unsloth Studio 90%
- affiliated with Apple Neural Engine 70%
- used by Muse Glimmer 70%
- competes with Omlx Local Ai Models 70%
- used by Core Ml 70%
- used by Unsloth Studio 70%
- developed by Prince Canuma 70%
- used by Modality Aware Capacity Scaling 70%
- used by mlx-lm 70%
- 2026-06-26 product_launch Apple released MLX, a machine learning framework for local model fine-tuning on Mac devices. 来源
20 天有情绪数据
-
Ollama 发布预发布版 v0.32.15-rc1，性能有所提升
Ollama 发布了 0.32.15-rc1 版本，这是一个预发布更新，包含模型元数据缓存以减少每个请求的开销。此次更新还通过 Docker 阶段整合了一个临时的 MLX 补丁，并指出了一位新贡献者 gaugarg-nv。
-
OBLITERATUS/Qwen3.8-27B-OBLITERATED 模型现已支持多种AI框架
OBLITERATUS/Qwen3.8-27B-OBLITERATED 模型现已可用于各种流行的AI库和推理提供商。提供了将模型与MLX、llama.cpp、vLLM、Ollama和Unsloth Studio集成的说明。这些指南详细介绍了如何在本地或通过兼容服务器设置和运行模型，使用户能够通过不同的应用程序和框架利用其功能。
-
Ollama 发布 v0.32.15-rc0，包含 Mlx 更新
Ollama 发布了 v0.32.15-rc0 版本，其中包括对 Mlx 的更新。此次更新是一个发布候选版本，整合了 ml-explore 项目的更改。
-
Open AI 模型分发层增长速度是核心模型的 7 倍
开源 AI 模型生态系统的分发层正在经历快速增长，其速度超过了模型本身的开发速度。Hugging Face 报告称，尽管模型库在 2026 年前七个月增长了 21.5%，但使用 GGUF 格式的库却增长了 464%。这表明，模型打包和转换为可运行格式（通常由 Unsloth 等第三方发布者完成）的普及程度远超原始实验室的直接发布。企业可能会在不知情的情况下采用这些社区生产的产物，从而引发关于来源和标准化的疑问。
-
unofficial Qwen3.8-27B 衍生模型发布，抑制了拒绝行为
PocketAI Model Lab 发布了一系列 unofficial 的 Qwen/Qwen3.8-27B 模型的 MLX 衍生版本。这些变体包括 2 位 AWQ、4 位、6 位、8 位和 BF16 版本，经过修改以抑制学习到的拒绝行为，可能导致更具危害性或冒犯性的内容。模型已进行行为评估和功能验证，大多数变体通过了质量和工具调用检查，但 2 位 AWQ 版本被标记为实验性且存在局限性。
-
vLLM 对比 Ollama：LLM 的生产部署
vLLM 和 Ollama 是用于部署大型语言模型的不同工具，各自针对不同的用例进行了优化。Ollama 在本地、单用户交互方面以简洁性见长，易于在个人机器上快速运行模型。相比之下，vLLM 专为高吞吐量的生产环境设计，通过 PagedAttention 和连续批处理等高级技术，能够高效地服务数百名并发用户。基准测试表明，在高度并发的情况下，vLLM 的性能显著优于 Ollama，每秒处理的令牌数几乎是 Ollama 的 20 倍，同…
-
指南介绍如何将 Hugging Face 模型转换为 MLX 格式
一份新指南详细介绍了如何将 Hugging Face 模型转换为 MLX 格式，该过程主要涉及调整参数命名和数据类型，而不是创建新的容器。转换工具 mlx_lm.convert 允许用户指定所需的数据类型（float16、bfloat16 或 float32），并可选择启用量化。该过程被描述为很大程度上是机械性的，从而支持社区驱动的转换。该指南还提供了安装必要的 Python 包的说明，并通过加载模型和生成文本来验证转换。
-
Cohere 通过 MLX、Axolotl 和 NVIDIA 集成扩展了 North Micro Vision 模型支持
Cohere 宣布为其 North Micro Vision 模型提供扩展支持，支持在各种平台上进行微调和部署。该模型现在支持 MLX，可在 Apple 设备上高效运行，并与 Axolotl.ai 集成以简化训练。此外，Cohere 还与 NVIDIA 合作，提供了一个 AutoModel 配方，用于在 NVIDIA GPU 上部署 North Micro Vision，从而提高了其对开发者的可访问性。
-
Meta 发布开源 AI 代理 Muse Glimmer，挑战闭源模型
Meta 发布了 Muse Glimmer，一个拥有 300 亿参数的开源 AI 代理模型，可以在消费级硬件上运行。此次发布伴随着 Mark Zuckerberg 批评闭源 AI 实验室的文章，旨在直接挑战 OpenAI 和 Anthropic 等公司。虽然 Muse Glimmer 不是最先进的模型，但在工具使用和代理任务方面表现出色，为开发者提供了经济高效的替代方案，并可能影响闭源模型提供商的定价策略。
-
微调LLM在新基准测试中表现不一，凸显数据挑战
一个在巴巴多斯报纸上训练的300亿参数微调模型Qwen3-Omni-30B-A3B-Instruct，在多个基准测试中表现出性能提升。虽然一个基准测试显示事实回忆和专有名词识别能力显著提高，但另一个侧重于TikTok内容提取的基准测试却显示性能下降，原因是假阳性增加和类型混淆。另外，一个微调的Mistral 7B模型展示了LoRA适配器在日志中检测个人数据的有效性，凸显了用于准确评估的健壮且具有代表性的数据集的关键重要性。
-
Unsloth 发布桌面应用，用于本地 AI 模型训练和部署
Unsloth 推出了 Unsloth Desktop，这是一款新的开源应用程序，专为在 Windows、macOS 和 Linux 上本地运行和训练 AI 模型而设计。该桌面应用支持多种模型，包括 Muse Glimmer 30B、Kimi K3、Qwen3.8、DeepSeek-V4 Flash 0731 和 Gemma 4，并能使用 MiniMax-H3 生成视频。它提供了改进的工具调用准确性、沙盒代码执行、私有网络搜索、RAG…
-
Meta Muse Glimmer 30B 模型已集成到 Hugging Face Transformers 和 Ollama 中
Meta 的新型 Muse Glimmer 30B 多模态模型已正式集成到 Hugging Face Transformers v5.15.0 和 Ollama v0.32.8 中，使其能够广泛用于本地 AI 应用。该开放权重模型专为代理工作流设计，例如编码助手和个人助手。此次集成使用户能够轻松地在消费级硬件上下载和运行 Muse Glimmer，无需使用云服务。此外，llama.cpp 发布了一个更新，通过多输出后端采样和 toke…
-
Meta发布开源代理模型Muse Glimmer以供本地使用
Meta发布了Muse Glimmer，一个专为在个人电脑和Mac上本地执行而设计的开源代理模型。这个拥有300亿参数的模型，在Apache 2.0许可下发布，针对“始终在线”的代理工作流进行了优化，能够管理个人数据、使用工具和执行多步推理。Meta通过三个阶段的流程训练了该模型，并利用量化和推测解码技术实现了高效的本地部署。
-
Hugging Face 详细介绍多模态模型、Transformer 集成和电子商务代理
Hugging Face 发布了多篇博文，详细介绍了 AI 和机器学习方面的进展。其中一篇博文涵盖了使用 sentence transformers 训练和微调多模态嵌入和重排模型。另一篇讨论了 Transformer 与 MLx 的集成，第三篇则介绍了 Ecom-RLVE，这是一个用于电子商务对话代理的自适应且可验证的环境。
-
MiniMax H3引领开源视频生成，迅速获得社区采用
MiniMax AI的H3模型被认为是开源视频生成领域领先的开源模型。该模型迅速获得了社区支持，开发者在发布后48小时内就迅速添加了LoRA支持和针对各种硬件平台的优化等功能。H3在保持图像、声音、音频和视频之间角色一致性方面的能力被强调为一项重大进展，使其成为AI能力前沿的有力竞争者。
-
Meta 发布 Muse Glimmer，一款用于本地 AI 代理的 30B 开源模型
Meta 发布了 Muse Glimmer，一个拥有 300 亿参数的开源模型，针对本地代理工作流进行了优化。该模型设计用于在消费级硬件（如单个 GPU）上运行，使其可用于个人使用以及需要更高数据控制的企业应用。Muse Glimmer 在编码、工具使用和多步推理等任务中表现出色，旨在普及先进的 AI 功能。
-
MLX 用户讨论本地 LLM 的最佳 4 位量化方法
在 r/LocalLLaMA 子论坛上的一场讨论，探讨了 MLX 框架的各种 4 位量化方法。用户正在寻求关于最有效的量化类型的见解，并重点介绍了 OptiQ、Unsloth dynamic 2.0 和 oQ 等特定示例，用于 Gemma4 和 Qwen3.6 等模型。对话旨在确定运行这些模型的最佳方法。
-
Apple Silicon上的Gemma模型出现无声缓存bug，导致本地AI变慢
一个影响Apple Silicon上Gemma模型的缓存bug已被发现，导致本地AI代理性能显著下降。该问题源于Gemma的滑动窗口注意力机制，当上下文长度超过一定阈值时，KV缓存重用会无声失败。修复方法是将缓存类型更改为普通的KVCache，这可以在不影响模型输出质量的情况下恢复性能，使本地编码代理的速度提高高达20倍。
-
Apple Silicon AI 工具利用 MLX 框架和神经网络引擎
已发布一套针对 Apple 的 MLX 数组框架和神经网络引擎进行优化的工具、框架和模型。该计划旨在利用 Apple Silicon 的能力进行 AI 开发。MLX 被呈现为 Apple 替代 PyTorch 等流行框架的方案。
-
开发者通过自定义 MLX 运行时在 Mac 上启用了 NVIDIA Nemotron Omni 的视觉/音频功能
一位开发者创建了一个 MLX 自定义运行时，以使 NVIDIA 的 Nemotron Omni 模型能够在 Mac 上利用其视觉和音频功能。原始模型的仅文本部分可以使用标准的 MLX 工具加载，但视觉和音频模块需要单独的实现。该开发者成功移植了这些组件，确保它们通过了与 NVIDIA 的 PyTorch 参考实现进行的严格测试。这个新的运行时允许模型处理图像和音频，在 M5 Max 芯片上实现了令人印象深刻的每秒 token 率，并以…