实体
7B parameter model
7B parameter model
PulseAugur coverage of 7B parameter model — every cluster mentioning 7B parameter model across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
新框架提升大语言模型图表数据提取准确性
研究人员开发了一个新的基准和训练框架，以提高多模态大语言模型（MLLMs）从图表图像中提取数据的能力。虽然当前的多模态大语言模型可以准确地从图表中重建表格结构，但它们在精确恢复数值方面常常遇到困难，尤其是在缺少标签的情况下。该框架受到人类逐步学习阅读图表方式的启发，显著提高了数值准确性，在一个拥有70亿参数的模型上达到了最先进的性能，并支持更可靠的混合式数据提取工作流程。
-
本地 LLM 硬件指南：VRAM、量化与性能
在本地运行大型语言模型（LLM），尤其是拥有 700 亿参数的模型，带来了严峻的硬件挑战，主要涉及 VRAM 容量。尽管营销宣传常暗示最低要求，但实际使用表明，将 70B 模型装入 8GB VRAM 必须进行大量优化，如量化。量化通过降低模型权重的比特表示来减小模型大小，对于在消费级硬件上运行这些模型至关重要，尽管它需要在内存使用、速度和输出质量之间进行权衡。使用 `nvidia-smi` 等工具监控 VRAM 使用情况对于理解 LL…