实体 GGUF Q4_K

GGUF Q4_K

PulseAugur coverage of GGUF Q4_K — every cluster mentioning GGUF Q4_K across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

RESEARCH · CL_84482 · Jun 10 · 16:19

新的量化方法使 Ideogram 4.0 能够在消费级 GPU 上运行

研究人员为 Ideogram 4.0 文本到图像扩散 Transformer 开发了新的训练后量化技术。他们的 INT8 W8A8 方法在缺乏 FP8 张量核心的消费级 GPU 上保持了 FP8 质量，性能优于 NF4 量化。此外，他们的 GGUF Q4_K 量化提供了比 NF4 更好的质量-内存权衡。