PulseAugur
中
实时 05:00:38
实体 Jiaming Cheng

Jiaming Cheng

PulseAugur coverage of Jiaming Cheng — every cluster mentioning Jiaming Cheng across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 1 条
  1. RESEARCH · CL_77396 ·

    LLM 推理效率在边缘设备和云 GPU 上得到探索

    两篇新研究论文探讨了高效运行大型语言模型（LLM）的挑战。第一篇论文研究了在智能手机和专用 NPU 等边缘设备上部署 LLM 的性能权衡，强调了热限制和内存带宽限制。第二篇论文介绍了一个可扩展的框架，使用启发式算法来优化异构 GPU 云环境中 LLM 推理的资源分配，旨在满足服务水平目标的同时最大限度地降低成本。