PulseAugur
中
实时 09:15:05
English(EN) W4A4 Quantization for Inference on Wan2.2-I2V-A14B

新的 W4A4 量化技术增强了 Wan2.2-I2V-A14B 模型的推理能力

作者 PulseAugur 编辑部 · [1 个来源] ·

研究人员为 Wan2.2-I2V-A14B 模型开发了一种新颖的 W4A4 量化技术，旨在提高低比特宽度硬件上的推理效率。他们的方法将激活值异常的混合精度与逐通道平滑和前馈层的块状打包相结合。该方法在 VBench I2V 指标上取得了接近 FP16 的 2-3.5% 的结果，优于原生的 HiFloat4 基线。 AI

影响 提高了低比特宽度硬件的推理效率，可能有助于在资源受限设备上更广泛地部署大型模型。

排序理由 这是一篇研究论文，详细介绍了一种针对特定 AI 模型的新颖量化技术。 [lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.CV 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

新的 W4A4 量化技术增强了 Wan2.2-I2V-A14B 模型的推理能力

报道来源 [1]

  1. arXiv cs.CV TIER_1 English(EN) · Yidong Chen, Chengyu Shi, Jiahao Liu ·

    W4A4 Quantization for Inference on Wan2.2-I2V-A14B

    arXiv:2606.29337v1 Announce Type: new Abstract: We summarize our submission to Sub-Challenge 1: W4A4 Quantization for Inference (HiF4 / MXFP4) of the ICME 2026 Low-Bit-width Large-Model Quantization Challenge. The sub-challenge targets 4-bit weight and 4-bit activation inference …

相关实体

相关话题