DGX Spark GB10

TurboQuant AI 压缩获得社区采用，但热度有所降温

在谷歌宣布 TurboQuant 算法用于压缩 AI 模型 KV 缓存四个月后，该算法已获得社区的广泛采用，但对其能力的理解更为细致。尽管谷歌尚未发布官方代码，但已涌现出许多独立实现，将该算法适配到各种框架和模型中。早期关于显存减少 6 倍和加速的炒作已被社区评估所缓和，评估表明虽然可以实现压缩，但准确性可能会受到影响，尤其是在较低的比特宽度下，而在新硬件上，纯 FP8 KV 缓存可能更受欢迎。