一篇新论文提出了一种简单技术,可以提高人工智能模型的性能和能源效率,特别是在DGX Spark等能量受限设备上。该方法将工作负载分块成较小的段,这些段以更高的频率在计算密集型和内存密集型操作之间交替。这种方法可以平滑功率和温度峰值,防止节流,从而缩短执行时间并降低能耗,在DGX Spark上观察到性能提升高达2%,在更大的系统上则有较小的提升。 AI
影响 这项技术可能导致在边缘设备上更高效地部署人工智能模型,并降低人工智能训练和推理的总体能耗。
排序理由 研究论文,详细介绍了一种提高人工智能模型性能的新技术。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →