实体 Litert

Litert

PulseAugur coverage of Litert — every cluster mentioning Litert across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

0

90 天内 0

层级分布 · 90 天

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_43426 · May 22 · 05:01

LiteRT 通过牺牲计算能力换取带宽来提高边缘 LLM 速度

研究人员开发了一种名为 LiteRT 的新方法来提高边缘 LLM 的性能，这些模型通常受内存带宽的限制。通过牺牲计算能力换取带宽，LiteRT 使这些模型能够达到每秒 30 个 token 的速度。这种方法解决了在资源有限的设备上部署强大 AI 模型的关键瓶颈。