LFM2.5-8B-A1B
PulseAugur coverage of LFM2.5-8B-A1B — every cluster mentioning LFM2.5-8B-A1B across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
Liquid AI 通过 DSpark 投机性解码将 LFM2.5 模型速度提升高达 3.18 倍
Liquid AI 发布了其 LFM2.5 系列的 DSpark 草稿模型，这些模型在不改变输出质量的情况下，将解码速度提高了高达 3.18 倍。该方法使用投机性解码，其中一个较小的草稿模型提出代币候选，然后由一个较大的目标模型进行验证。这种方法显著加快了推理速度，尤其适用于延迟至关重要的代理应用。这些模型可供自托管，并兼容 llama.cpp 和 SGLang 等工具。
-
LiquidAI 使用扩展分词器升级 LFM2.5-8B-A1B 模型
LiquidAI 发布了 LFM2.5-8B-A1B 模型，该模型具有升级的分词器。此次增强将词汇量从 65,000 个 token 增加到 128,000 个 token，专门解决了某些语言的细粒度分割问题。升级是原地进行的，这意味着模型无需从头开始重新训练。
-
新的大语言模型研究涵盖多模态对齐、推理审计和能源使用 · 已追踪 10 个来源
近期研究探讨了大语言模型（LLM）能力和局限性的各个方面。一项研究调查了多模态大语言模型的对齐问题，提出了一种新的数据生成方法来提高图像-文本一致性。另一篇论文介绍了一种用于评估大语言模型推理的协议级审计，突出了基准分数与实际行为属性之间的差异。进一步的研究利用围棋死活题探究了大语言模型的推理效率，揭示了当前模型在搜索组织方面存在困难。此外，还有研究考察了大语言模型的能耗、默认设置和代币定价对推理服务的影响，以及低资源编程语言基准的开发。
-
开发者发布 LFM2.5-8B-A1B 的原生 Rust、仅 CPU 实现
一位开发者创建了 LFM2.5-8B-A1B 语言模型的原生 Rust、仅 CPU 实现。这个仍在进行中的项目已作为 cargo crate 发布，并包含工具使用回调等功能。该实现可以在 Ryzen 7950x 上提供约 37 tokens/s 的解码速度，并且可以在内存仅为 16GB 的系统上运行，内存使用量约为 7GB。
-
Liquid AI 发布了具有 128K 上下文的 8B MoE 模型，用于设备端工具使用
Liquid AI 发布了 LFM2.5-8B-A1B，这是一个拥有 80 亿参数的混合专家（MoE）模型，专为高效的设备端工具调用而设计。新版本显著将上下文窗口扩展到 128,000 个 token，并将预训练规模扩展到 38 万亿个 token，提高了其处理长文档和进行长期任务推理的能力。该模型还拥有扩展的词汇表，以更好地进行非拉丁语的 token 化，并针对消费级硬件上的高吞吐量进行了优化，支持各种推理引擎。
-
LFM2.5 8b A1b 模型速度媲美 Nemotron 3 Nano
一款新的开源语言模型 LFM2.5 8b A1b 已发布，其性能可与 Nemotron 3 Nano 相媲美。该模型以其高速度而闻名，并因使用非标准工具调用而被集成到 SmallCode 项目中。
-
LiquidAI 发布 LFM2.5-8B-A1B 模型，适用于设备端和服务器使用
LiquidAI 发布了 LFM2.5-8B-A1B，这是一个拥有 80 亿参数的模型，针对设备端应用和高效服务器端使用场景进行了优化。该模型拥有 128K 的上下文长度和混合 MoE 架构，能够与更大模型相媲美。它设计用于在单个 GPU 上实现适应性，并以开放权重许可证形式提供。
-
LiquidAI发布设备端LFM2.5-8B-A1B；OpenMOSS-TTS v1.5新增语言
LiquidAI发布了LFM2.5-8B-A1B，这是一个为设备端部署优化的新型混合模型系列，在CPU和GPU上均提供与大型模型相媲美的性能和高推理速度。同时，OpenMOSS-Team发布了MOSS-TTS-v1.5，这是一个更新的文本转语音模型，增强了多语言合成、语音克隆稳定性和显式停顿控制，现支持31种语言。
-
Liquid AI 发布 LFM2.5-8B-A1B 设备端 MoE 模型
Liquid AI 发布了 LFM2.5-8B-A1B，这是一款新推出的设备端专家混合（MoE）模型，专为复杂任务和工具链设计。该模型拥有 83 亿总参数，但每个 token 仅激活 15 亿参数，能够在消费级硬件上实现高效性能。主要升级包括扩展到 131,072 token 的上下文窗口、在 38 万亿 token 上进行的广泛预训练，以及用于减少幻觉和提高推理能力的先进强化学习。