arXiv cs.AI· Abhilash Jindal, Todd Nief, Bhanu Prakash Vangala, Shankaradithyaa V, Tvisha Malik, Anshik Sahu, Aaron Schein, Amitabh Chaudhary, Tanu Malik·· 10 天前AI 评分22
FlexiFlow：基于多臂老虎机的 ML 工作流模型动态切换
FlexiFlow: Bandit-based Model Switching in ML Workflows
AI 导读
FlexiFlow 是一个数据流系统，能在当前模型准确率偏低时动态切换到备选模型，实验显示切换模型可将工作流准确率提升最高 23%。该系统用多臂老虎机方法对模型排序，综合考虑模型运行时间、通过用户自定义断言的概率以及工作流计算结构，并指出标准 Thompson 采样不足以胜任这一任务。运行时切换模型并复用中间结果，相比顺序执行工作流不仅准确率更高，还带来 48% 的效率提升。
正文 · AI 翻译
摘要：模型优化有助于提升 ML 工作流的推理性能和准确率。然而，依赖单一模型对所有数据批次进行推理，往往无法最大化准确率，从而影响整体性能。在许多情况下，替代模型在主要模型表现欠佳的特定数据子集上可能表现更好。我们在真实 ML 工作流上的实验确实表明，切换模型可将工作流准确率提升高达 23%。然而，当前系统缺乏根据性能自适应切换模型的能力，迫使用户按顺序手动测试模型。我们提出 FlexiFlow，一个数据流系统，可在当前模型准确率较低时动态切换至替代模型。FlexiFlow 采用一种新颖的多臂老虎机方法学习对模型进行排序，该方法考虑了模型运行时间、通过用户定义断言的概率以及 ML 工作流的计算结构。我们表明，标准的 Thompson 采样方法不足以在 ML 工作流中切换模型。相比之下，我们提出的方法有效，并可扩展至复杂的真实世界 ML 工作流。实验表明，在运行时切换模型并复用中间结果可带来更高的准确率，同时相比顺序工作流运行还可获得 48% 的效率提升。
| 学科： | 机器学习（cs.LG）；人工智能（cs.AI） |
| 引用为： | arXiv:2610.07286 [cs.LG] |
| （或使用 arXiv:2610.07286v1 [cs.LG] 查看此版本） | |
| https://doi.org/10.48550/arXiv.2610.07286 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Bhanu Prakash Vangala [查看电子邮件]
[v1]
2026年10月5日星期一 19:20:41 UTC（531 KB）
来源：arXiv cs.AI · arxiv.org