Ornith-1.0-35B

Ornith-1.0-35B GGUF 模型通过投机解码嫁接更新

Ornith-1.0-35B 模型的新版本，特别是 GGUF 格式，已通过原生多令牌预测（MTP）投机解码嫁接进行了更新。此次更新将单流解码速度提高了 1.3-1.35 倍，最高可达每秒 233.8 个令牌。该模型保持了 0.073 的低 Kullback–Leibler 散度（KLD），优于 Q4_K_M 量化，并为长上下文场景提供了改进的性能。