NicoLab28/ClipProj-MiniMax-H3

ClipProj 将 Qwen3-VL 模型尺寸缩小，MiniMax H3 的 VRAM 需求降低 70%

一组新的投影矩阵 ClipProj 被开发出来，能够让更小的 Qwen3-VL 模型取代 MiniMax H3 扩散模型中更大的 Qwen3-VL-32B 文本编码器。这使得 VRAM 需求从 15.7 GB 大幅降低到 4.5 GB，而无需更改核心扩散模型、VAE 或采样器。投影矩阵使用岭回归进行训练，其中残差网络是唯一可训练的组件，并且它们被设计为与各自模型尺寸的任何变体一起工作。