English(EN) Kimi K3 for local use (1.56TB → 594GB) compressed and released by Unsloth

Kimi K3 语言模型为本地使用而压缩，准确率保留 78.9%

作者 PulseAugur 编辑部 · [2 个来源] · 2026-07-29 19:39

Unsloth 发布了 Kimi K3 语言模型的压缩版本，使其适合本地运行。该模型已被量化为不同的比特级别，最小的 1 位版本将模型大小从 1.56 TB 减少到 594 GB。这个高度压缩的模型保留了约 78.9% 的原始准确率，在显著降低存储需求的同时保持了相当大的性能。 AI

影响使得在性能较低的硬件上运行先进的语言模型成为可能，提高了可访问性。

排序理由发布现有语言模型的量化、更小的版本。

AI 生成摘要 · Google Gemini · 来自 2 个来源。我们如何撰写摘要 →

报道来源 [2]

Mastodon — fosstodon.org TIER_1 Deutsch(DE) · [email protected] · 2026-07-31 04:01

RT @UnslothAI: Kimi K3现已可本地运行！✨ 我们将其从1.56TB压缩至594GB后，该1位模型仍保留约78.9%的准确率

RT @UnslothAI: Kimi K3 kann nun lokal ausgeführt werden! ✨ Das 1-Bit-Modell behält ~78,9 % der Genauigkeit bei, nachdem wir es von 1,56 TB auf 594 GB verkleinert haben (-62 % Größe). Läuft auf einem Mac Studio + 128 GB RAM Gerät. Kimi K3 ist das stärkste Open-Source-Modell bis da…
r/LocalLLaMA TIER_1 English(EN) · /u/BankApprehensive7612 · 2026-07-29 19:39

Unsloth 发布 Kimi K3 本地部署版（1.56TB → 594GB）

<table> <tr><td> <a href="https://www.reddit.com/r/LocalLLaMA/comments/1va6ot2/kimi_k3_for_local_use_156tb_594gb_compressed_and/"> <img alt="Kimi K3 for local use (1.56TB → 594GB) compressed and released by Unsloth" src="https://external-preview.redd.it/-Pi0PiNmpJmI17QD0uo-SnFZHO…