一项技术分析揭示了 Hugging Face 仓库中报告的文件大小与实际模型权重之间存在差异。作者发现,将仓库中所有标记为权重的文件的总和,通常会比加载模型所需的单个文件大几倍。这是因为同一权重的多种格式导出(例如 PyTorch、TensorFlow、ONNX),或者相同的权重文件在不同名称下被列出。此外,分析还强调了缺失 'safetensors' 文件报告方面的问题,其中 'null' 值可能被误解为零参数,导致不使用该特定格式的模型的计数不准确。 AI
影响 凸显了 AI 模型存储估算和参数计数方面潜在的不准确性,影响成本计算和资源管理。
排序理由 模型文件存储和报告实践的技术分析。[lever_c_demoted from research: ic=1 ai=1.0]
- all-MiniLM-L6-v2
- facebook/opt-125m
- Flax
- GPT2
- Hugging Face
- HuggingFaceTB/SmolLM2-135M-Instruct
- openai-community/gpt2
- PyTorch
- Qwen2.5-0.5B-Instruct
- safetensors
- sentence-transformers/all-MiniLM-L6-v2
- SmolLM2-135M-Instruct
- TensorFlow
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →