FlexiFlow

FlexiFlow系统动态切换ML模型以提高准确性

研究人员开发了FlexiFlow，一个新颖的数据流系统，旨在推理过程中动态切换不同的机器学习模型。这种自适应切换旨在通过利用替代模型处理主要模型表现不佳的特定数据子集来提高整体工作流的准确性和效率。FlexiFlow采用了一种新颖的多臂赌徒方法，结合了模型运行时间和准确性指标，以学习最优的切换策略，其性能优于ML工作流的标准Thompson采样。