新发布的 Segment Anything Model (SAM) 3.1 的量化版本提供了 INT8 和 INT4 格式。这些量化版本显著减小了模型尺寸,其中 INT4 版本比其 fp16 对等版本小近 40%,从而节省了大量 VRAM。虽然推理速度提升不大,但掩码质量与原始模型几乎相同。 AI
影响 SAM 3.1 INT4 等量化模型可以在 VRAM 有限的设备上实现更广泛的部署,从而可能提高 AI 图像分割任务的可访问性。
排序理由 现有模型的量化版本发布。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →