实体
Laptop GPU
Laptop GPU
PulseAugur coverage of Laptop GPU — every cluster mentioning Laptop GPU across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 3 条
-
Soup 使用单个 YAML 文件简化本地 LLM 微调
Soup 是一款新的开源工具，可简化在本地微调大型语言模型 (LLM) 的过程。它允许用户使用单个 YAML 文件训练 8B 模型，无需复杂的配置和广泛的云基础设施。该工具设计得用户友好，只需一个命令即可完成微调和后训练，即使在 4GB 笔记本 GPU 上也可以。
-
笔记本 GPU 在 Gemma 4 模型上比 12 核 CPU 快 4.3 倍
一项对比研究表明，在运行 Gemma 4 语言模型时，一块 4 GB 的笔记本 GPU 的性能显著优于一块 12 核 CPU。在笔记本电脑上为模型提供服务时，该 GPU 的速度优势是 CPU 的 4.3 倍。这突显了即使在 VRAM 有限的情况下，使用专用图形硬件进行 AI 推理任务的效率。
-
Gemma 4 E2B 模型通过量化在 4GB 笔记本 GPU 上运行
一份技术指南详细介绍了如何在配备 4GB GPU 的 2021 年联想 Yoga 9 笔记本电脑上运行 Gemma 4 E2B 模型。文章解释说，Gemma 4 E2B 的标准 bfloat16 版本需要 9.5 GiB 的显存，超出了笔记本电脑的容量。然而，使用量化感知训练 (QAT) 可将模型大小减至 3.35 GB，使其能够在此有限硬件上高效运行，解码速度达到每秒 73.75 个 token。