arXiv cs.AI· Swati Gupta, Tianjiao Li·· 2 天前AI 评分22
何时值得为更好的 LLM 付费？混合保真度预言机的随机优化
When is a better LLM worth paying for? Stochastic Optimization with Switching Mixed-Fidelity Oracles
AI 导读
针对 LLM 辅助数据清洗与决策的下游任务，研究提出混合保真度一阶预言机的随机优化框架，用成本感知策略在不同保真度预言机间自适应切换。在偏差已知时，其累积成本不超过事后最优固定预言机；偏差未知时，用预算化认证方案以偶发可信梯度评估剔除有偏来源。合成与 LLM 补全实验显示，该策略跳过多个昂贵 LLM 预言机，在精度相当的情况下大幅降低累积成本。
正文 · AI 翻译
摘要：大语言模型（LLM）正越来越多地被用于决策流程的上游，以清洗数据、检测标签错误和重建缺失值。然而，LLM 辅助的数据整理带来了新的运营权衡：更高保真度的模型和更丰富的提示词可能成本大幅增加，而这种额外保真度的价值取决于下游优化的准确度。这引出了本工作的核心问题：在给定特定下游任务的情况下，何时应为更好的 LLM 付费？
我们通过具有混合保真度的一阶随机预言机来研究这一问题，这些预言机可能具有系统性偏差和依赖于状态的方差。我们开发了两种成本感知的算法框架，允许在随机预言机之间自适应切换。在偏差已知的情况下，第一种元算法采用一种带重启、成本感知的策略，在优化各阶段自适应地选择预言机保真度。其累积成本不高于事后看来最佳固定预言机的成本，并且可能大幅更低。在偏差未知的情况下，我们开发了一种预算化的认证方案，利用偶尔的可信梯度评估来认证优化进展并剔除不成功的预言机来源，并展示了认证成本与偏差来源延迟检测之间的明确权衡。我们通过将偏差随机梯度外推（SGE）和状态依赖噪声下的递归正则化作为子程序应用，给出了这些元算法的具体实现。合成实验和 LLM 补全实验展示了理论所预测的定性切换行为：自适应策略跳过了若干昂贵的 LLM 预言机，并相对于固定高保真度替代方案大幅降低了累积成本，同时达到了相当的准确度。
| 主题： | 优化与控制（math.OC）；人工智能（cs.AI）；机器学习（cs.LG） |
| 引用为： | arXiv:2610.21139 [math.OC] |
| （或 arXiv:2610.21139v1 [math.OC] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.21139 arXiv 颁发的 DOI 通过 DataCite（待注册） |
提交历史
来自：Tianjiao Li [查看邮箱]
[v1]
2026年10月15日星期四 02:50:49 UTC（4,598 KB）
来源：arXiv cs.AI · arxiv.org