研究人员开发了 Atlas,一个旨在优化复杂 AI 工作流在异构集群上部署的框架。Atlas 解决了复合 AI 工作流中准确性估计的挑战,因为错误会在不同阶段之间传播。它引入了马尔可夫准确性预测器 (MAP),通过离散化中间输出和组合转换配置文件来估计配置准确性,从而避免了昂贵的端到端分析。这种方法使 Atlas 能够将执行计划选择制定为混合整数线性规划问题,在满足服务水平目标 (SLO) 的同时最大化预测准确性并降低部署成本。 AI
影响 该框架通过改进准确性估计和资源分配,有望实现更高效、更具成本效益的复杂 AI 系统的部署。
排序理由 这是一篇详细介绍用于优化 AI 工作流部署的新框架和方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →