研究人员推出了一种名为可计算公平划分(CFD)的新框架,用于在大型AI系统中分配稀缺资源,如GPU计算时间。与优先考虑效率的传统方法不同,CFD使用重新定义的玻尔兹曼-Softmax函数来平衡效率与公平性,防止资源过度集中。一种自适应控制器AHC++动态调整控制变量,以在压力下保持公平性目标,同时最大限度地减少吞吐量下降。 AI
影响 引入了一种管理AI系统资源的新方法,有可能提高大型部署的公平性和稳定性。
排序理由 学术论文,详细介绍了一种用于AI资源分配的新框架和控制机制。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →