Thomas Bley
PulseAugur coverage of Thomas Bley — every cluster mentioning Thomas Bley across labs, papers, and developer communities, ranked by signal.
-
本地LLM指南更新,包含Gemma 4速度提升和图表工具
Thomas Bley 更新了他的“在本地运行LLM”演示文稿,增加了新的示例和性能改进。更新内容包括在llama.cpp UI中创建Mermaid图的演示,并为Gemma 4引入了量化感知训练(QAT)变体,据称在本地设置下可实现50%更快的token生成速度。此外,演示文稿现在还澄清了确定性结果和概率性结果的定义。
-
发布了在本地运行 Qwen 和 ASR 模型的指南
Thomas Bley 发布了新的幻灯片,详细介绍了如何在本地运行大型语言模型。该演示文稿涵盖了使用 Nextn 量化的 Qwen3.6 35B-A3B 模型进行多 token 预测。它还包括有关使用 Qwen-3-ASR 进行语音识别的信息,该模型现在可以与 Llama.cpp 一起使用。
-
本地 LLM 指南更新,支持 Qwen 3.6 和 Gemma 4
Thomas Bley 发布了更新的本地运行大型语言模型指南,其中包含 Qwen 3.6 和 Gemma 4。该设置包括权限配置和不同的“思考”变体,旨在使本地 LLM 执行更加易于访问。此次更新被呈现为 OpenCode 项目的每周小幅改进。
-
使用 LFM 2 和 Transformers.js,通过 WebGPU 在本地运行 LLM
Thomas Bley 发布了新的幻灯片,详细介绍了如何使用 LFM 2 在本地运行大型语言模型 (LLM)。该演示文稿还涵盖了将 Transformers.js 与 WebGPU 结合用于隐私过滤器、函数调用和嵌入,所有这些都在用户的浏览器中进行处理。
-
英伟达的 Nemotron 3 Nano Omni 和 Llama.cpp 支持本地运行大型语言模型
Thomas Bley 发布了新的演示幻灯片,详细介绍了如何在本地运行大型语言模型。幻灯片涵盖了英伟达的 Nemotron 3 Nano Omni、Llama.cpp 的内置工具以及使用 Transformers.js 进行图像识别和 OCR 任务。