研究人员开发了Para-Pipe,一个旨在优化异构片上系统(SoC)上机器学习计算图性能的新型框架。该层级映射框架将流水线架构内的算子并行性(intra- and inter-stage operator parallelism)相结合,以平衡吞吐量和延迟。在Amlogic和Black Sesame Technology SoC上的评估表明,Para-Pipe可以生成帕累托最优配置,与传统的流水线或并行执行策略相比,在能效方面有了显著提升。 AI
影响 该框架可能带来更高效、低延迟的边缘设备AI推理。
排序理由 该集群描述了一篇研究论文,详细介绍了一种用于优化片上系统(SoC)上机器学习计算图的新框架。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →