Mlx
PulseAugur coverage of Mlx — every cluster mentioning Mlx across labs, papers, and developer communities, ranked by signal.
- 2026-06-26 product_launch Apple released MLX, a machine learning framework for local model fine-tuning on Mac devices. 来源
20 天有情绪数据
-
Cohere 为 MacBook 上的 Transcribe Arabic 添加 MLX 支持
Cohere 宣布为其 Transcribe Arabic 服务提供 Day 0 MLX 支持，使用户能够在 MacBook 上本地运行转录。此功能支持诸如会议跟踪和语音笔记听写等任务，由 mlx-audio 提供支持。
-
Unsloth Studio 发布 v0.1.48-beta 版本，增强模型导出和 API 服务
Unsloth Studio 发布了 v0.1.48-beta 版本，为模型导出和 API 服务带来了显著增强。此次更新支持将模型导出为多种格式，包括 NVFP4、FP8 和 imatrix GGUFs，并引入了更强大的 OpenAI 兼容 API 服务，具备自动模型切换和工具调用修复等功能。此外，该版本还改进了 RAG 和文件聊天功能，提供更好的文档解析和可定制的嵌入模型，同时对 Unsloth 平台进行了整体优化和可靠性提升。
-
MLX 与 GGUF：为 Apple Silicon 选择正确的本地 LLM 格式
对于在 Apple Silicon Mac 上运行本地大型语言模型的用户来说，MLX 和 GGUF 格式之间的选择取决于性能与便携性的权衡。MLX 是 Apple 的原生框架，通过利用统一内存架构，可提供 15-40% 的速度提升并减少内存使用，但仅限于 Apple Silicon。GGUF 是一种更通用的格式，兼容 Linux 和 Windows 等各种平台，并可在 CPU 和 GPU 上运行，使其成为跨平台或长期项目的更安全选择。
-
NVIDIA 的 Audio2Face-3D 已移植到 Apple Silicon 以供本地使用
NVIDIA 的 Audio2Face-3D 模型的一个开源移植版本现已支持 Apple Silicon，可在本地执行语音到 3D 面部动画的转换。该 `speech-swift` 包以 Apache 2.0 许可证发布，使用 MLX 进行前向传播，并输出带时间戳的面部动画系数，同时提供情感条件设置选项。虽然当前版本提供了动画数据，但计划在未来集成渲染器，可能作为 ComfyUI 节点或 Blender 插件。
-
Yttri 0.86.0-beta.1 引入统一界面、插件平台和本地 MLX 引擎
Yttri 发布了 0.86.0-beta.1 版本，标志着该 AI 代理迎来了一个重要的 beta 周期。主要更新包括代理的统一界面、Yttri 首个用于 Obsidian 集成的插件的推出以及其插件平台的发布。此外，一个替代性的本地 MLX 引擎现在可以在配备 Apple Silicon 的 Mac 上运行，并且语音输入和录制功能的稳定性得到了改进。
-
用户报告称 MLX 可在 Mac 上进行本地图像生成
Reddit 的 r/StableDiffusion 子版块上一位用户分享了他们在配备 32GB RAM 的 Mac Studio 上使用 MLX 进行本地图像生成的积极体验。他们认为这是他们体验过的最好的本地图像生成方式，尽管速度比云端解决方案或 GPU 密集型设置慢。用户指出，目前缺乏易于使用的 MLX 图像生成工具和资源，并表示希望有更好的 Mac 端工具，同时也承认 CUDA 是当前进展的主要驱动力。
-
开发者使用 Claude Code skill 自动化机器学习分类器故障分析
一位开发者在评估机器学习分类器时遇到了瓶颈，手动分析故障变得效率低下且过时。为解决此问题，他们开发了一个“Claude Code skill”来自动化评估后分析过程。该 skill 将结构化数据写入机器维护的 JSON 文件，从而无需手动整理即可高效查询、聚合和识别重复出现的故障模式。
-
Triton 的 Mac 支持正在开发中，拓宽优化选项
Triton 对 macOS 的支持正在开发中，并且已共享 Triton 扩展存储库的拉取请求。将 Triton 集成到目前在 Apple Silicon 上由 MLX/llama.cpp 主导的开发环境中，可以极大地拓宽本地 GPU/Metal 内核开发和优化的选项。
-
知识蒸馏提升紧凑型AI模型在数学推理任务上的准确性
研究人员探索了知识蒸馏技术，以提高小型AI模型在复杂推理任务上的性能。他们使用大型推理模型DeepSeek-R1，在历史数学竞赛问题上训练了一个更紧凑的Qwen2.5-7B模型。经过微调的学生模型在准确性上有了显著提高，在竞赛数据集上的准确率提高了4个百分点以上，并且在单独的基准测试中也表现出良好的泛化能力。研究还发现，模型响应的长度与数学推理中的答案质量直接相关，响应越短，准确率越低。
-
新的运行时和基准测试提升 Apple Silicon 上的 LLM 推理性能
研究人员开发了在 Apple Silicon 上优化大型语言模型 (LLM) 推理的新方法。第一种方法 BaseRT 是一个原生 Metal 运行时，通过针对 Metal 的执行模型和 Apple Silicon 的统一内存进行优化，实现了比现有框架更高的推理吞吐量。它支持各种模型系列和量化，在 M3 和 M4 Pro 设备上展示了显著的性能提升。第二项贡献 Metal-Sci 是一个用于评估 Apple Silicon 上 LLM …
-
MLX 微调指南教授 7B 模型高奇幻风格
一位 Reddit 用户分享了一个使用 MLX 在 Apple Silicon 上微调 7B 指令模型的指南。目标是教会模型一种高奇幻文学风格，灵感来自 Gene Wolfe 和 Tolkien 等作家。用户提供了示例输出，比较了基础模型和微调模型的响应，展示了风格、语域和措辞的显著变化。
-
Liquid AI 推出小型 LFM2.5-230M 用于设备端代理任务
Liquid AI 发布了其迄今为止最小的模型 LFM2.5-230M，专为手机和机器人等边缘设备的端侧推理而设计。这个拥有 2.3 亿参数的模型在数据提取和工具使用方面表现出色，在 IFEval 和 IFBench 等特定基准测试中优于更大的模型。虽然不适合数学或编码等复杂推理任务，但其小巧的体积和高效的架构使其能够快速推理，非常适合本地数据处理和轻量级代理工作负载。
-
Hugging Face 详细介绍 AI 模型训练进展
Hugging Face 发布了一系列博客文章，详细介绍了 AI 模型训练和开发的进展。其中一篇题为“PRX Part 3”的文章重点介绍了在 24 小时内训练文本到图像模型，并重点介绍了 Photoroom 模型。另一篇文章探讨了使用 sentence transformers 训练和微调多模态嵌入和 reranker 模型。此外，另一篇独立文章讨论了打开 pull requests 的过程，特别提到了 transformers 库…
-
Apple MLX 支持在 Mac 设备上本地微调 AI 模型
Apple 发布了 MLX，这是一个针对其 silicon 优化的机器学习框架，使用户能够在 Mac 设备上本地微调语言模型。该框架无需云 GPU 和相关费用，使得本地 AI 模型训练更加便捷。MLX 旨在利用 Apple 的 Neural Engine 提升性能。
-
古代《易经》序列未能改善神经网络训练
一篇新论文探讨了周文王序列（《易经》卦象的一种古代排序方式）的统计特性，以期改善神经网络训练。研究人员发现该序列具有独特的统计特征，如高转移距离和负自相关，这些特征表面上与课程学习的原理相似。然而，在不同硬件平台和训练方法上的实验表明，应用周文王序列要么降低了性能，要么没有显著影响，这表明其独特的方差会破坏基于梯度的优化。
-
North Mini Code 1.0：一款微型、Apple Silicon 原生的编码 LLM 问世
一款名为 north-mini-code-1.0:mlx-mxfp8 的新型小型语言模型已经出现，它专门为编码任务设计，并通过 MLX 框架针对 Apple Silicon 进行了优化。该模型利用 mxfp8 量化技术，可在 Apple 的统一内存架构上高效运行，旨在提供快速、直接的响应，避免过度解释或填充。初步印象表明，它在单文件编码任务和重构方面表现良好，引发了关于此类专业化、精简模型是否能在其预期领域超越更大、更通用的模型的疑问。
-
OpenMed 发布 650+ 个用于设备端 MLX 处理的生物医学 NER 模型
一个名为 OpenMed 的新开源项目发布了 650 多个生物医学命名实体识别 (NER) 和去标识化模型，这些模型可以使用 MLX 在 Apple 设备上高效运行。这些模型采用 Apache 2.0 许可，专为设备端处理而设计，与传统的基于 CPU 的方法相比，速度有了显著提升。例如，一个 4.34 亿参数的临床 NER 模型在 M3 Max 芯片上的运行速度比在 CPU 上使用 PyTorch 快 30-40 倍，同时保持相同的输…
-
本地AI模型在游戏开发测试中匹配并超越云端产品
一位开发者测试了四个AI模型来构建一个可玩的游戏，其中三个模型在MacBook Pro M5 Max上本地运行，一个云端模型作为基准。所有四个模型都成功生成了一个功能齐全的游戏，但本地运行的DeepSeek模型产生了最完善的结果，在整体质量上超越了云端的Cloud Claude Opus。这个实验突显了本地AI模型日益增长的能力，表明云端解决方案不再是高质量AI生成输出的唯一选择。
-
在 Macbook Air M5 上使用 MLX 进行 LoRA 训练的详细介绍
一份技术指南演示了如何在 Macbook Air M5 上使用 MLX 进行 LoRA 训练。作者详细介绍了该过程，强调了在消费级硬件上运行此类操作的可行性。这种方法为企业提供了一种比昂贵的云 API 令牌更具成本效益的替代方案。
-
Stable Diffusion 用户寻求 Boogu Turbo 模型比较
Reddit 上的一位用户正在寻找 Boogu Turbo 模型特定的生成示例，以便与他们自己的 MLX 转换进行比较。他们请求社区分享用于实现特定输出的确切提示和参数，旨在完成他们的项目并创建基准。