PulseAugur
中
实时 00:55:31
한국어(KO) 2비트라는 이름의 GGUF가 3비트 이름의 파일보다 컸습니다: 공개 Darwin-180B 양자화 파일 6개를 헤더까지 열어 보니

Darwin-180B GGUF 文件因大型查找表导致名称-大小不匹配

作者 PulseAugur 编辑部 · [1 个来源] ·

对 Darwin-180B-RSI-R3 模型的六个 GGUF 量化文件的分析揭示了文件名与其实际大小之间存在差异。研究发现，模型参数的很大一部分，特别是 28.9%，用于一个查找表 (per_layer_token_embd.weight)，该表独立于量化名称存储，通常采用 Q8_0 等更高比特格式。该表的大小在不同文件之间可能差异很大，导致文件名暗示较低比特量化但文件实际更大的情况。分析还指出，模型中与量化名称更直接相关的“专家”部分占总参数的比例较小。 AI

影响 理解 GGUF 文件结构和量化可以实现更高效的模型部署和资源管理。

排序理由 该条目详细介绍了模型文件结构和量化的技术分析，属于研究范畴。[lever_c_demoted from research: ic=1 ai=1.0]

在 dev.to — LLM tag 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

Darwin-180B GGUF 文件因大型查找表导致名称-大小不匹配

本文如何被排名

Signal score
42 / 100
Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket
Tool
该条目详细介绍了模型文件结构和量化的技术分析，属于研究范畴。[lever_c_demoted from research: ic=1 ai=1.0]
Source corroboration
Single-source cluster
Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics
model release, infra
Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance
High
Clearly on-topic for AI-industry coverage.
Story freshness
Breaking (< 6h)
Fresh story with cross-source coverage still developing. Ranking may shift as more sources report.

完整方法见我们的编辑标准。

报道来源 [1]

  1. dev.to — LLM tag TIER_1 한국어(KO) · Vidraft_lab ·

    GGUF 2bit 文件大于 3bit 文件：打开 6 个公共 Darwin-180B 量化文件至头部

    <h2> TL;DR </h2> <p>저희가 공개한 Darwin-180B-RSI-R3 가중치를 다른 분들이 GGUF로 양자화해 올려 두었습니다. HF에서 이 모델을 기반으로 표시한 양자화 저장소는 7곳이고, 그중 GGUF 저장소 4곳의 파일 6개를 골라 GGUF 헤더를 열어 파일 안에서 바이트가 어디로 가는지 계산했습니다. 파일 전체를 받지 않고 앞부분만 HTTP Range로 읽었습니다.</p> <p>가장 눈에 띈 것은 이름과 크기의 어긋남입니다. 이름에 <strong>TQ2_0</strong>이 …

相关实体

相关话题