实体
Post-training quantization (PTQ)
Post-training quantization (PTQ)
PulseAugur coverage of Post-training quantization (PTQ) — every cluster mentioning Post-training quantization (PTQ) across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
新研究探索LLM的高级量化技术 · 已追踪10个来源
多篇研究论文介绍了量化大型语言模型（LLMs）的新技术，以减少其计算和内存占用。这些方法旨在提高效率，同时不显著牺牲性能。方法包括激活量化的优化旋转、面向量化感知训练的最小范数优化，以及用于部署对齐的量化感知蒸馏框架。其他研究侧重于超低复杂度反量化、重新思考优化损失尺度以及量化的联合交替细化，所有这些都有助于使LLMs更易于访问和更高效。
-
新方法改进LLM量化，以减小尺寸和成本 · 跟踪2个来源
两篇新的研究论文提出了用于大型语言模型（LLM）训练后量化（PTQ）的新颖方法，旨在减小它们的尺寸和计算需求。第一篇论文《From Sweep to Seam: Interleaved Cross-Block Post-Training Quantization》介绍了交错跨块量化（ICBQ），该方法通过两次重新访问来精炼量化边界。第二篇论文《ReQuant: Fixed-Grid Discrete Refinement for Po…