实体 PTQTP

PTQTP

PulseAugur coverage of PTQTP — every cluster mentioning PTQTP across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_193709 · Aug 11 · 04:00

新的量化方法可实现大型MoE模型的高效服务

研究人员开发了一种名为Tied Trit-Planes (PTQTP) 的新型量化技术，将LLM权重矩阵约束为统一的九级量化器。该方法允许将两个三进制平面无损地折叠成单个4位代码平面，作为用于磁盘流式传输的混合专家模型的持久表示。将其应用于DeepSeek-V4-Flash-0731后，与4.5位基线相比，文件大小更小，解码速度更快，并且在MMLU等基准测试上的性能相当或有所提高，尽管权重重建误差较高。