研究人员开发了一种名为热预算退火(TBA)的新方法,用于优化在挑战性环境中部署的机器学习模型。该方法解决了许多配置崩溃或违反约束的问题,这是层级搜索空间中常见的问题。TBA首先探索可行区域,然后使用模型指导的优化,并结合试用超时和子空间黑名单等机制来处理硬件故障。该方法在合成基准测试和实际GPU部署上进行了测试,显示出改进的模型发现能力并减少了资源浪费。 AI
影响 提高了在受限硬件上部署ML模型的效率,可能降低成本并加速产品上市时间。
排序理由 介绍机器学习部署新优化方法的学术论文。
- Christian Lysenstøen
- DeployBench
- NVIDIA H100
- NVIDIA L4
- NVIDIA RTX 5080
- NVIDIA T4
- Thermal Budget Annealing
- TPE
- Tree-structured Parzen Estimators
- NVIDIA A100
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →