实体
3B Models
3B Models
PulseAugur coverage of 3B Models — every cluster mentioning 3B Models across labs, papers, and developer communities, ranked by signal.
总计 · 30天
3
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 3 条
-
小型边缘AI模型在特定任务上超越大型模型
当任务范围限定时，小型语言模型（特别是约30亿参数的模型）在边缘端部署时，可以超越大型（700亿参数）模型。这些小型模型在延迟、隐私和成本方面具有优势，适用于分类、提取和受限生成等应用，尤其是在连接性有限的环境中。成功的边缘AI部署取决于仔细的范围管理、在实际边缘硬件上进行测试（而非在强大的开发机器上），以及为离线操作实施强大的安全和监控措施。
-
2026 年，4GB 内存机器上的本地 LLM 可通过优化模型实现
2026 年，通过选择尺寸合适的模型和优化设置，在没有 GPU 的 4GB 内存机器上运行实用的本地 LLM 是可行的。参数量为 10 亿到 20 亿、量化为 Q4 的模型，例如 Q4_K_M 格式的 1.5B 模型，是理想选择，占用约 1GB 的权重，为操作系统和上下文留出足够的内存。尝试使用 Q4 量化的 30 亿参数模型也是可能的，但由于上下文增长导致的磁盘交换，可能会出现性能问题。该设置涉及使用 llama.cpp，并将 GP…
-
PathRouter框架通过将奖励与检索质量对齐来改进代理图检索增强生成
研究人员推出了一种新颖的训练框架PathRouter，旨在增强代理图检索增强生成（GraphRAG）系统。该框架解决了仅基于结果的强化学习中固有的奖励别名和搜索-更新歧义等问题。PathRouter根据答案正确性和证据路径重叠来评估轨迹，区分不同类别以抑制捷径同时鼓励证据搜寻。实验表明，PathRouter在各种模型规模下显著提高了答案F1分数和证据路径重叠度。