dynamic voltage and frequency scaling
PulseAugur coverage of dynamic voltage and frequency scaling — every cluster mentioning dynamic voltage and frequency scaling across labs, papers, and developer communities, ranked by signal.
3 天有情绪数据
-
新的DVFS调度器消除了被动冷却硬件上边缘AI的热节流
研究人员开发了一种新的动态电压和频率缩放（DVFS）调度器，旨在防止运行深度神经网络的被动冷却边缘设备出现热节流。该调度器利用时域保护和绝对温度边界来管理热量，通过在每帧功耗更低的情况下实现更高的帧率，其性能优于仅基于温度的基线。虽然主动冷却仍能提供更高的吞吐量，但所提出的方法表明，在特定的运行范围内，可以无需机械冷却即可实现持续的边缘推理。
-
PowerSlider 系统在功率限制波动下优化 LLM 服务
一个名为 PowerSlider 的新系统已被开发出来，用于在波动的功率限制下优化 LLM 服务，这是由于需求响应要求，在 AI 推理集群中常见的问题。与优化静态能源或削减固定优先级层级的现有系统不同，PowerSlider 利用了 LLM 工作负载中的相位不对称性。它将预填充、思考和回答阶段进行分解，允许对每个阶段进行频率和 KV 缓存控制，以在功率受限时最大限度地减少性能损失。该系统利用了一种新颖的 Flex SLO 合约和一个可…
-
新方法优化移动设备上DNN推理的能效
研究人员开发了一种新方法，用于优化移动设备上深度神经网络（DNN）推理的能效。该方法联合优化计算和内存频率以及通信资源，以在遵守截止日期约束的同时最大限度地降低能耗。对于本地推理，使用凸优化推导出了一个近乎最优的闭式解，实现了接近最优解2.5%的性能，与现有方法相比，能耗降低了高达10.4%。
-
编译器重写缓解移动NPU功率突发
一篇新的研究论文详细介绍了一种在移动NPU推理过程中缓解功率突发的方法，尤其是在设备电池电量低时。该研究在搭载MobileNetV4的Snapdragon 8 Gen 3处理器上进行，发现激进的编译器融合可能导致执行集中和显著的峰值电流突发。提出的解决方案涉及一种预编译图重写，通过插入屏障来防止有害的超级层合并，将峰值电流从3.12 A降低到1.94 A，同时延迟开销极小。
-
新的HiDVFS调度器优化了实时嵌入式系统的性能
研究人员开发了HiDVFS，一种新颖的分层多智能体DVFS调度器，专为多核嵌入式系统上的实时OpenMP DAG工作负载设计。该系统通过引入每个核心、温度感知的控制，并优先考虑截止日期和热限制，解决了漏电功率的挑战。HiDVFS使用独立的智能体进行性能分析、热管理和任务优先级排序，并使用以完成时间为中心的奖励和校准的保形护盾来预测响应时间。在各种平台上的基准测试表明，与现有方法相比，在完成时间、能耗降低和截止日期遵守方面都有显著改进。