arXiv cs.CL· Amit Lisha, Reut Tsarfaty·· 11 小时前AI 评分32
用 DSL 弥合自然语言抽象与具体动作的鸿沟
From Abstraction to Action: DSLs for Natural Language Abstraction Interpretation and Execution
AI 导读
研究者提出借用编程环境中的领域特定语言(DSL)作为显式表示层,把"堆金字塔"这类高层抽象指令展开为具体动作,在视觉指令跟随任务 Hexagons 上,基于人工整理 DSL 的代码生成比直接推理最高提升 10 个绝对 F1 点,达到人类上限,且增益集中在更高抽象层级,该规律在 Text2CAD 基准上同样成立。
正文 · AI 翻译
摘要:自然语言指令往往依赖高层抽象,例如要求智能体“把积木堆成金字塔”。解读抽象指令要求模型既能识别说话者意图中的抽象概念,又能将其展开为许多具体动作。语言模型在这方面表现不佳:已有研究表明,指令的抽象程度越高,模型性能越差。为弥合自然语言抽象与具体动作之间的差距,我们提出借鉴编程环境中的{\em 领域特定语言}(DSL)概念——一种显式表示层,其有文档记录的原语命名了可展开为具体动作的重复出现的抽象。我们在\textsc{Hexagons}上展示了 DSL 用于自然语言解读的有效性,这是一个以视觉为基础、按抽象程度评分的指令遵循任务。我们进一步探究语言模型能否自行从领域数据中归纳出此类 DSL。结果表明,虽然代码生成始终优于直接推理,但在人工整理的 DSL 上进行代码生成可带来显著提升,最高达 10 个绝对 F1 点,达到人类上限,且提升集中在{\em 更高}抽象层级。我们在\textsc{Text2CAD}基准上证实了这一模式。同时,模型归纳的 DSL 仅能获得部分提升,且在不同运行间不一致,也达不到人工整理版本的水平。总体而言,正确的表示能弥合大部分由高抽象造成的差距——但自动归纳这一表示层正是模型仍然欠缺之处,也是我们认为社区有强烈机会取得进展的方向。
| 主题: | 计算与语言(cs.CL) |
| 引用为: | arXiv:2610.28311 [cs.CL] |
| (或 arXiv:2610.28311v1 [cs.CL] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2610.28311 由 DataCite 颁发的 arXiv DOI(待注册) |
提交历史
来自:Amit Lisha [查看邮箱]
[v1]
2026年10月20日 星期二 14:51:44 UTC(699 KB)
来源:arXiv cs.CL · arxiv.org