arXiv cs.CL· Ido Levy, Segev Shlomov, Avi Yaeli, Nir Mashkif, Asaf Adi, Yinon Goldshtein, Eilam Shapira, Leshem Choshen·· 12 小时前AI 评分38
TabAgent：将 LLM 智能体组件蒸馏为廉价分类器
TabAgent: Distilling LLM Agent Components into Cheap Classifiers
AI 导读
TabAgent 提出用基于执行轨迹训练的紧凑文本-表格分类器，替代智能体在路由、候选筛选、门控、验证等闭集决策任务中的 LLM 调用。在 AppWorld 长程基准上，它保持任务级成功率的同时消除候选筛选阶段的 LLM 调用，延迟降低约 95%，推理成本降低 85-91%。v2 版本将评估扩展到三类决策家族的七个智能体基准，TabHead 改为 CatBoost 分类器。
正文 · AI 翻译
摘要：智能体系统（Agentic systems）是一种能够自主执行多步工作流以实现复杂目标的 AI 架构，通常通过反复调用大语言模型（LLM）来完成路由、候选筛选、门控和验证等闭集决策任务。这种方式虽然便捷，但累积的延迟和 token 消耗使部署变得缓慢且昂贵。我们提出 TabAgent，一个用于在闭集选择任务中替代生成式决策组件的框架，它使用基于执行轨迹训练的紧凑文本-表格分类器。TabAgent (i) 从轨迹中提取结构化模式、状态和依赖特征（TabSchema），(ii) 通过模式对齐的合成监督增强覆盖（TabSynth），(iii) 使用轻量级分类器对候选进行评分（TabHead）。在长时程 AppWorld 基准上，TabAgent 在保持任务级成功率的同时消除了候选筛选阶段的 LLM 调用，将延迟降低约 95%，推理成本降低 85-91%。除工具筛选外，TabAgent 还可推广到其他智能体决策头，为生产级智能体架构中生成式瓶颈的学习型判别式替代建立了范式。
| 评论： | 67 页，14 幅图，26 张表。v2 为大幅修订版，更换了新标题并新增两位作者。评估范围从 AppWorld 扩展到三个决策族（集合检索、分类、策略与奖励）下的七个智能体基准，TabHead 现为 CatBoost 分类器，并包含对经典头与神经头的消融实验 |
| 主题： | 计算与语言（cs.CL） |
| ACM 分类： | I.2.6; I.2.7 |
| 引用为： | arXiv:2602.16429 [cs.CL] |
| （或 arXiv:2602.16429v2 [cs.CL] 为本版本） | |
| https://doi.org/10.48550/arXiv.2602.16429 arXiv 颁发的 DOI（经 DataCite） |
提交历史
来自：Ido Levy [查看邮箱]
[v1]
2026 年 2 月 18 日周三 13:01:17 UTC（1,219 KB）
[v2]
2026 年 10 月 21 日周三 11:05:33 UTC（828 KB）
来源：arXiv cs.CL · arxiv.org