GuidanceOS

开发者使用 Gemma 4 构建离线 AI 职业顾问

一位计算机科学讲师开发了一个名为 GuidanceOS 的离线 AI 职业顾问，旨在完全在本地 GPU 上运行，无需互联网连接。该系统使用了 Google 的 Gemma 4 模型，特别是 `gemma-4-e4b-it` 变体，通过 4 位量化加载，使其能够容纳在 15GB 的 VRAM 中。为了将用户技能与工作和课程进行匹配，该顾问采用了从超过 130,000 条 LinkedIn 职位发布和 Coursera 课程记录构建的 T…