实体
LFM2-2.6B
LFM2-2.6B
PulseAugur coverage of LFM2-2.6B — every cluster mentioning LFM2-2.6B across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
2.6B LLM 在 iPhone 15 上离线运行，实现可靠的数据提取
一位开发者已成功在 iPhone 15 上完全离线运行了一个拥有 26 亿参数的语言模型 LFM2-2.6B。该设置利用了 llama.cpp 框架和 Metal 加速构建，使模型能够高可靠性地处理文本并提取结构化数据（如 JSON）。解决的关键挑战包括通过 GBNF 语法确保有效的 JSON 输出，管理长提示以防止应用程序崩溃，以及通过使用基于规则的提取特定数据点（如货币总额）来提高数值准确性。
-
AI代理通过openTPU项目设计自己的推理硬件
一个名为openTPU的开源项目展示了AI设计自身推理硬件的能力。该项目在一个单一的monorepo中详细介绍，包括SystemVerilog中的硬件设计、一个模拟器以及在PCIe卡上运行现代AI模型的宿主软件。该倡议旨在探索AI代理如何为硬件设计做出贡献，并为自身的推理任务构建芯片。