实体 Jiatong Ding

Jiatong Ding

PulseAugur coverage of Jiatong Ding — every cluster mentioning Jiatong Ding across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_259248 · Sep 17 · 04:00

HyQuant框架通过混合精度量化优化LLM注意力

研究人员开发了HyQuant，一个新颖的混合精度量化框架，旨在提高大型语言模型（LLM）注意力机制的效率。该方法将大部分注意力状态量化为低比特格式，同时将垂直线令牌和局部窗口状态等关键组件保留在更高精度下。HyQuant旨在减少量化误差，并在各种任务和模型中保持准确性，为LLM注意力优化提供了实际可行性。