实体 Zirui Ma

Zirui Ma

PulseAugur coverage of Zirui Ma — every cluster mentioning Zirui Ma across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

最近 · 第 1/1 页 · 共 1 条

RESEARCH · CL_08328 · Apr 28 · 07:42

AHASD架构提升移动设备上LLM的推测解码性能

研究人员开发了AHASD，一种新颖的异步异构架构，旨在优化移动设备上的大型语言模型（LLM）推理。该架构采用任务级解耦进行并行草稿生成和验证，并结合自适应控制机制来抑制低置信度的草稿。AHASD在PIM内存中集成了专门的注意力计算和任务调度单元，旨在减少空闲开销和计算浪费。