English(EN) Memory-Efficient Partitioned DNN Inference on Resource-Constrained Android Crowds

新系统支持在低 RAM 安卓手机上运行大型 DNN

作者 PulseAugur 编辑部 · [1 个来源] · 2026-05-20 05:21

研究人员开发了一个名为 CROWD IO 的新系统，以实现资源受限的 Android 设备上大型深度神经网络的高效推理。该系统通过将内存压力分布到多个设备上来解决手机 RAM 有限的挑战。CROWD IO 采用多种机制，包括延迟分区加载和压缩张量传输，来管理内存使用并减少批处理延迟。 AI

影响支持将先进的 AI 模型部署到更广泛的移动设备上，可能增强边缘 AI 功能。

排序理由学术论文，详细介绍了在资源受限设备上进行高效 DNN 推理的新颖系统。[lever_c_demoted from research: ic=1 ai=1.0]

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

报道来源 [1]

arXiv cs.LG TIER_1 English(EN) · Kutila Gunasekera · 2026-05-20 05:21

Memory-Efficient Partitioned DNN Inference on Resource-Constrained Android Crowds

Deploying large deep neural networks on memory-constrained mobile devices is a central challenge in edge ML. While compression, pruning, and quantization reduce per-parameter cost, transformer-based models remain too large for the 3.3-7.4 GB RAM envelope of commodity Android hand…