arXiv cs.AI· Aditya Kumar, Cassandra A. Cohen, William W. Cohen·· 3 天前AI 评分34
编码 LLM 可被用于从数据中学习可解释模型
Coding LLMs Can Be Harnessed to Learn Interpretable Models from Data
AI 导读
研究者提出一种简单 harness，反复提示编码 LLM 根据标注样本生成规则集中的下一条规则，从而从数据中学习可解释模型。该方法在表格数据上与 SOTA 规则学习方法相当甚至更优，在小训练集上优势明显，在文本任务上大幅领先，包括击败另一个基于 LLM 的规则学习器。由于编码智能体不受高度受限假设空间约束，该思路还直接催生了新型可解释模型，并引入“构建可解释分类器”这一新编码基准类别。
正文 · AI 翻译
摘要：由于紧凑、可解释的分类器对应于简单的程序，因此很自然地会问，基于 LLM 的编码智能体能否用于从数据中学习可解释的模型。在本文中，我们提出了一个简单的框架，在给定带标签样本的情况下，反复提示编码 LLM 生成规则集中的下一条规则。我们表明，这种方法在表格数据上与最先进的规则学习方法相比具有竞争力，且往往更优，尤其是在训练集较小时；在文本上则以较大优势胜出，包括优于另一种基于 LLM 的规则学习器；该方法优于标准框架，并且由于编码智能体不受限于搜索高度受限的假设空间，该方法能直接催生新型可解释模型。除了在学习可解释模型方面取得的进展外，这些结果之所以值得关注，还因为它们引入了一类新的编码基准——可解释分类器的构建——其中包含对输出质量的定量测量（即测试集误差）以及现有的成熟“专家编码算法”（即现有学习方法）。
| 评论： | 正文：10 页，4 幅图 |
| 主题： | 机器学习（cs.LG）；人工智能（cs.AI） |
| 引用为： | arXiv:2610.14006 [cs.LG] |
| （或 arXiv:2610.14006v1 [cs.LG] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.14006 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Aditya Kumar [查看电子邮件]
[v1]
2026 年 9 月 28 日星期一 17:05:42 UTC（493 KB）
来源：arXiv cs.AI · arxiv.org