arXiv cs.AI· Mostafa Cham, Bayu Adhi Tama, Jianwu Wang·· 10 小时前AI 评分22
LLM-SR-UQ:面向 LLM 引导符号回归外推的结构不确定性量化框架
Know When the Equation Is Wrong: Structural Uncertainty for LLM-Guided Symbolic Regression under Extrapolation
AI 导读
研究团队提出 LLM-SR-UQ 框架,通过保留多个竞争方程结构并利用其分歧来刻画函数形式的不确定性。在 LLM-SRBench 数据集上,标准保形区间在分布内达到名义覆盖率,但在外推场景下频繁失效;该框架扩展固定宽度保形方法以量化结构区间,显著提升覆盖率并保持分布内覆盖。该方法应用于其他符号回归方法时也表现出良好泛化性。
正文 · AI 翻译
摘要:大型语言模型(LLM)能够帮助从数据中发现数学方程,但大多数由 LLM 引导的符号回归方法只关注单个最佳方程,而没有量化替代函数形式上的不确定性。这具有挑战性,因为不同的方程可以同样好地拟合观测数据,却会产生显著不同的外推结果。我们在 LLM-SRBench 数据集上的实验表明,标准共形区间在分布内能够达到名义覆盖率,但在外推情况下经常失效。为应对这一挑战,我们提出了 LLM-SR-UQ,这是一个保留相互竞争的方程结构、并利用它们之间的分歧来刻画关于底层函数形式的不确定性的框架。我们将标准的固定宽度共形方法扩展为量化结构区间,该区间衡量候选方程之间的分歧,并识别预测区间应在何处加宽。大量实验表明,我们的框架通过纳入结构分歧,在保持分布内覆盖率的同时显著提升了覆盖率的达成程度。当应用于其他符号回归方法时,我们的方法也表现出良好的泛化能力。
| 主题: | 机器学习(cs.LG);人工智能(cs.AI) |
| 引用为: | arXiv:2610.42024 [cs.LG] |
| (或 arXiv:2610.42024v1 [cs.LG] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2610.42024 由 DataCite 颁发的 arXiv DOI(待注册) |
提交历史
来自:Mostafa Cham [查看邮箱]
[v1]
2026年10月30日星期五 16:54:16 UTC(251 KB)
来源:arXiv cs.AI · arxiv.org