PulseAugur
实时 03:52:11
English(EN) 650+ Apache-2.0 biomedical NER/de-id models that run on-device in MLX. Same fp32 weights, identical outputs: the clinical NER models run 30-40x faster than PyTorch-CPU on a 3-year-old M3 Max. Repro inside.

OpenMed 发布 650+ 个用于设备端 MLX 处理的生物医学 NER 模型

一个名为 OpenMed 的新开源项目发布了 650 多个生物医学命名实体识别 (NER) 和去标识化模型,这些模型可以使用 MLXApple 设备上高效运行。这些模型采用 Apache 2.0 许可,专为设备端处理而设计,与传统的基于 CPU 的方法相比,速度有了显著提升。例如,一个 4.34 亿参数的临床 NER 模型在 M3 Max 芯片上的运行速度比在 CPU 上使用 PyTorch 快 30-40 倍,同时保持相同的输出,并通过在本地处理数据来保护用户隐私。 AI

影响 加速了专业生物医学 NLP 任务的设备端处理,提高了本地应用程序的隐私性和效率。

排序理由 这是发布用于设备端处理的专业模型和 SDK,而不是来自主要实验室的核心前沿模型发布。

在 r/LocalLLaMA 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

OpenMed 发布 650+ 个用于设备端 MLX 处理的生物医学 NER 模型

报道来源 [1]

  1. r/LocalLLaMA TIER_1 English(EN) · /u/dark-night-rises ·

    650+ 个 Apache-2.0 生物医学 NER/de-id 模型可在 MLX 上本地运行。相同的 fp32 权重,相同的输出:临床 NER 模型在 3 年前的 M3 Max 上运行速度比 PyTorch-CPU 快 30-40 倍。内部有复现。

    <table> <tr><td> <a href="https://www.reddit.com/r/LocalLLaMA/comments/1udoruf/650_apache20_biomedical_nerdeid_models_that_run/"> <img alt="650+ Apache-2.0 biomedical NER/de-id models that run on-device in MLX. Same fp32 weights, identical outputs: the clinical NER models run 30-…