Voodoo Quant

Voodoo Quant 技术在 KLD 方面比 Unsloth Dynamic 展现出 95% 的改进

一种名为 Voodoo Quant 的新量化技术在模型优化方面取得了显著改进，在 Qwen3.5 模型上，其 KLD 指标比 Unsloth Dynamic 2.0 高出 95%。与 Unsloth 的块状方法不同，Voodoo Quant 单独优化每个张量，从而实现更通用和可迁移的优化。该方法在 Llama.cpp 框架（GGUF 的关键格式）中表现尤为出色，同时在 Torch 中也保持了竞争力，表明其是一种更稳健的优化策略。