PulseAugur
中
实时 19:29:53
实体 AIME 2024/2025

AIME 2024/2025

PulseAugur coverage of AIME 2024/2025 — every cluster mentioning AIME 2024/2025 across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
0
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 1
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 1 条
  1. RESEARCH · CL_106564 ·

    新的 KV 缓存压缩技术提升大语言模型推理性能 · 跟踪 9 个来源

    多篇研究论文探讨了优化大语言模型（LLM）服务中的键值（KV）缓存的新技术，以解决内存和性能瓶颈。这些方法包括量化、剪枝、合并和频率引导压缩，旨在减少内存使用并提高长上下文工作负载的推理速度。研究评估了这些技术在各种基准测试和模型上的表现，强调了压缩率、任务质量和系统性能之间的权衡，并建议根据工作负载选择压缩策略。