PulseAugur
中
实时 12:53:57
English(EN) Kimi K3 (Unsloth) IQ2-XXS from 711GB down to 478GB!!! Only Multi-language was removed to trim the size

Unsloth 将 Kimi K3 LLM 压缩至 500GB 以下，提升性能

作者 PulseAugur 编辑部 · [2 个来源] ·

Unsloth 发布了 Kimi K3 大型语言模型的几个版本，显著减小了文件大小。其中一个版本 IQ2_XXS 通过移除多语言能力并仅保留英语，将文件大小从 711GB 缩减至 478GB。初步测试表明，这个精简后的模型在编码任务上可能更准确，但仍需在受控条件下进行进一步验证。其他发布的版本包括 Q1_0（466GB）和 TQ2_0（551GB）。 AI

影响 优化的 LLM 版本可能支持更广泛的本地部署，并可能提高特定任务的性能。

排序理由 这是对现有 LLM 的优化版本发布，并非全新的前沿模型发布。

在 r/LocalLLaMA 阅读 →

AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →

Unsloth 将 Kimi K3 LLM 压缩至 500GB 以下，提升性能

本文如何被排名

Signal score
0 / 100
Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket
Tool
这是对现有 LLM 的优化版本发布，并非全新的前沿模型发布。
Source corroboration
2 independent sources
Multiple independent publishers reporting the same story raises confidence that it's real and newsworthy.
Topics
model release, product
Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance
High
Clearly on-topic for AI-industry coverage.
Story freshness
54 days old
Aged out of breaking-news scoring windows; ranking reflects the durable signal from the full source set.

完整方法见我们的编辑标准。

报道来源 [2]

  1. r/LocalLLaMA TIER_1 English(EN) · /u/Hannibalj2ca ·

    Kimi K3 (Unsloth) IQ2-XXS 从 711GB 缩减至 478GB！！！仅移除了多语言以减小体积

    <!-- SC_OFF --><div class="md"><p>Firstly a big thanks to the poster &quot;hellohazine&quot;, he basically only removed the multi-lingual fat of the model and just kept the English language intact. It is the exact model, and the rest of the model still intact with all of its high…

  2. r/LocalLLaMA TIER_1 English(EN) · /u/Hannibalj2ca ·

    全新 Unsloth KImi K3 发布！Q1_0 (466GB), TQ1_0(509GB), IQ1_M(649),TQ2_0(551GB)!!

    <!-- SC_OFF --><div class="md"><p>The smallest UD-Q1_0 is 466GB, TQ2_0 551GB. Well done team Unsloth!</p> <p><a href="https://huggingface.co/unsloth/Kimi-K3-GGUF">https://huggingface.co/unsloth/Kimi-K3-GGUF</a></p> </div><!-- SC_ON --> &#32; submitted by &#32; <a href="https://ww…

相关实体

相关话题