PulseAugur
实时 00:28:25
English(EN) SAM 3.1 Quantized to INT8 and INT4

SAM 3.1 量化至 INT8 和 INT4 可显著节省 VRAM

新发布的 Segment Anything Model (SAM) 3.1 的量化版本提供了 INT8 和 INT4 格式。这些量化版本显著减小了模型尺寸,其中 INT4 版本比其 fp16 对等版本小近 40%,从而节省了大量 VRAM。虽然推理速度提升不大,但掩码质量与原始模型几乎相同。 AI

影响 SAM 3.1 INT4 等量化模型可以在 VRAM 有限的设备上实现更广泛的部署,从而可能提高 AI 图像分割任务的可访问性。

排序理由 现有模型的量化版本发布。[lever_c_demoted from research: ic=1 ai=1.0]

在 r/StableDiffusion 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

SAM 3.1 量化至 INT8 和 INT4 可显著节省 VRAM

报道来源 [1]

  1. r/StableDiffusion TIER_2 English(EN) · /u/External_Quarter ·

    SAM 3.1 量化至 INT8 和 INT4

    <!-- SC_OFF --><div class="md"><p>Compatible with native loaders. INT4 is almost 40% smaller than ComfyOrg's fp16 checkpoint, i.e. about 600 MB in VRAM savings. Mask quality is nearly identical. Inference speed is only marginally improved, but SAM is already quite fast.</p> </div…