PulseAugur
中
实时 19:41:34
实体 Quantization-aware Reasoning Behavior Analysis

Quantization-aware Reasoning Behavior Analysis

PulseAugur coverage of Quantization-aware Reasoning Behavior Analysis — every cluster mentioning Quantization-aware Reasoning Behavior Analysis across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_280941 ·

    新的RATIO框架解决了量化大语言模型中的过度思考问题

    研究人员开发了RATIO，一个旨在缓解在用于推理的大语言模型（LLMs）应用训练后量化（PTQ）时出现的性能下降和“过度思考”问题的新框架。RATIO通过分析全精度模型和量化模型之间的差异来识别导致过度思考的特定令牌，然后对这些令牌应用定制化的惩罚，而无需额外的训练。实验表明，与现有方法相比，RATIO显著提高了准确性并缩短了推理轨迹的长度。