LFM2.5-350M
PulseAugur coverage of LFM2.5-350M — every cluster mentioning LFM2.5-350M across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
Hugging Face 详细介绍用于结构化 LLM 输出的微调方法
Hugging Face 详细介绍了一种微调3.5亿参数模型以提高其生成结构化输出能力的方法。该过程涉及100个GRPO步骤，旨在增强模式合规性，这是将语言模型集成到下游系统的关键因素。微调可以在现有的GPU上进行，例如Google Colab或Kaggle中的GPU，并且可以使用llama.cpp等工具 在MacBook上本地运行评估。
-
Liquid AI 发布 LFM2.5 模型的 QAD 版本，以实现高效的边缘部署
Liquid AI 发布了其 LFM2.5 系列小型 AI 模型的量化感知蒸馏 (QAD) 版本。新版本旨在减少内存使用量，同时最大限度地降低性能下降，使其更适合智能手机和笔记本电脑等低规格设备。QAD 技术涉及蒸馏高精度教师模型以提高量化学生模型的性能。四款 LFM2.5 模型（230M、350M、1.2B-Instruct 和 2.6B）已接受此 QAD 处理，并作为开放模型提供。
-
经济型PC LLM测试：LFM2.5-1.2B-Instruct在通用场景下胜出
一位开发者在一台没有独立GPU的标准办公PC上测试了五个小型LLM（参数量小于20亿），以确定在经济型硬件上哪些模型表现最佳。测试重点关注了每秒令牌数速度和创意写作质量，特别是生成有趣的猫咪故事。LFM2.5-350M速度最快，适合快速任务，而LFM2.5-1.2B-Instruct在仅CPU系统上提供了通用场景下质量和性能的最佳平衡。
-
SupraLabs 发布具有扩展上下文的 Supra-1.5 和专门的 Supra-Title 模型
SupraLabs 发布了两款新的实验性模型：Supra-1.5-exp 系列，包括一个基础模型和一个指令微调版本，其上下文窗口（5120 个 token）扩大了 5 倍，并增加了训练数据；以及 Supra-Title-0.3B，一个专门的 3.5 亿参数模型，用于快速生成聊天对话的标题。Supra-1.5 模型是 Project Chimera 的一部分，并使用 ChatML 格式，而 Supra-Title 则针对效率进行了优化，…
-
Jetson Orin Nano 在不同功耗模式下对8个微型LLM进行基准测试
在Jetson Orin Nano Super 8GB设备上对八个小型语言模型（1.35亿至约10亿参数）进行了基准测试。测试使用了llama.cpp CUDA后端，探索了四种功耗模式（7W、15W、25W、MAXN）。研究结果表明，25W功耗模式在所有测试模型中提供了性能和效率的最佳平衡，在每焦耳生成的令牌数量方面优于15W和MAXN模式。