PulseAugur
实时 17:23:39
English(EN) Krea 2 Turbo INT4 ConvRot works at 11.88 GB and is faster than INT8

Krea 2 Turbo 模型量化大幅缩小文件大小并提升速度

已开发出 Krea 2 Turbo 模型的一种实验性转换器,支持混合精度 ConvRot W4A4 量化。此过程显著减小了模型文件大小和 VRAM 使用量,激进的 INT4 版本达到了 11.88 GB。测试 Q3 混合精度配置显示,生成速度有了实质性提升,比原始 BF16 模型快约 2.7 倍,同时保持了出乎意料的良好图像质量。 AI

影响 这一发展可能有助于在消费级硬件上更有效地部署大型图像生成模型。

排序理由 该条目描述了一种针对现有模型的新实验性转换器和量化技术,详细说明了性能改进和质量比较。[lever_c_demoted from research: ic=1 ai=1.0]

在 r/StableDiffusion 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

Krea 2 Turbo 模型量化大幅缩小文件大小并提升速度

报道来源 [1]

  1. r/StableDiffusion TIER_2 English(EN) · /u/robomar_ai_art ·

    Krea 2 Turbo INT4 ConvRot works at 11.88 GB and is faster than INT8

    <table> <tr><td> <a href="https://www.reddit.com/r/StableDiffusion/comments/1usi2hq/krea_2_turbo_int4_convrot_works_at_1188_gb_and_is/"> <img alt="Krea 2 Turbo INT4 ConvRot works at 11.88 GB and is faster than INT8" src="https://preview.redd.it/3gccfwx28dch1.png?width=140&amp;hei…