一种新的 Colibri 流式传输技术移植已开发完成，可使 Hy3 大型语言模型在仅需 10GB 显存的硬件上运行。与原始 Colibri 实现相比，这大大降低了内存需求，后者需要 25GB 显存来运行 GLM 5.2 模型。该项目可在 GitHub 上找到，并建议在显存不足时使用系统内存。 AI
影响 使更多可访问的硬件能够运行大型语言模型，可能扩大用户群体。
排序理由 这是将现有模型移植到低规格硬件上的软件移植和优化，并非新的模型发布或重大研究。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
<!-- SC_OFF --><div class="md"><p>Standing on the shoulders of giants, I vibe-coded a port of Colibri to work with Hy3 so you can run it on even smaller hardware specs (Colibri originally works with GLM 5.2 on 25GB, now you need no more than 10GB (even less actually)).</p> <p>Hav…