LFM2.5-1.2B-Instruct
PulseAugur coverage of LFM2.5-1.2B-Instruct — every cluster mentioning LFM2.5-1.2B-Instruct across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
果蝇连接组整合到LLM中未显示性能提升
研究人员通过将完整的MaleCNS v1.0果蝇连接组与一个冻结的12亿参数语言模型整合，开发出了Fly Language Model (FLM)。这种被称为Generative Pre-trained Fly (GPF) 的新颖架构旨在利用果蝇的神经线路。然而，评估表明，果蝇连接组的整合带来的改进非常有限，并且在没有果蝇图的对照模型中表现略有逊色。研究表明，尽管果蝇图参与了过程，但它并未为语言任务带来性能优势，也没有促进长程记忆。
-
Liquid AI 通过 DSpark 投机性解码将 LFM2.5 模型速度提升高达 3.18 倍
Liquid AI 发布了其 LFM2.5 系列的 DSpark 草稿模型，这些模型在不改变输出质量的情况下，将解码速度提高了高达 3.18 倍。该方法使用投机性解码，其中一个较小的草稿模型提出代币候选，然后由一个较大的目标模型进行验证。这种方法显著加快了推理速度，尤其适用于延迟至关重要的代理应用。这些模型可供自托管，并兼容 llama.cpp 和 SGLang 等工具。
-
Liquid AI 发布 LFM2.5 模型的 QAD 版本，以实现高效的边缘部署
Liquid AI 发布了其 LFM2.5 系列小型 AI 模型的量化感知蒸馏 (QAD) 版本。新版本旨在减少内存使用量，同时最大限度地降低性能下降，使其更适合智能手机和笔记本电脑等低规格设备。QAD 技术涉及蒸馏高精度教师模型以提高量化学生模型的性能。四款 LFM2.5 模型（230M、350M、1.2B-Instruct 和 2.6B）已接受此 QAD 处理，并作为开放模型提供。
-
ZeroGPU推出批量API，实现经济高效的文本分类
ZeroGPU推出了一款新的批量API，旨在以远低于传统同步API调用的成本，高效地标记大量非结构化文本数据，如客户评论。该服务使用一种名为LFM2.5-1.2B-Instruct的专门的、更小的模型，该模型针对情感分析和主题分类等任务进行了优化，避免了为重复性工作使用更大、更复杂的尖端模型的昂贵成本。一个新的操作指南演示了如何使用批量API彻夜处理CSV文件，并具备智能错误处理和将结果无缝合并回现有数据库的功能。
-
经济型PC LLM测试：LFM2.5-1.2B-Instruct在通用场景下胜出
一位开发者在一台没有独立GPU的标准办公PC上测试了五个小型LLM（参数量小于20亿），以确定在经济型硬件上哪些模型表现最佳。测试重点关注了每秒令牌数速度和创意写作质量，特别是生成有趣的猫咪故事。LFM2.5-350M速度最快，适合快速任务，而LFM2.5-1.2B-Instruct在仅CPU系统上提供了通用场景下质量和性能的最佳平衡。