arXiv cs.CL· Xiao Zhang·· 6 天前AI 评分22
面向神经语义解析的结构自动机
Structural Automata for Neural Semantic Parsing
AI 导读
研究在 DRS 解析的解码、后处理和训练三个阶段引入结构自动机,并在 AMR 上评估解码效果。提出的接受路径解码(APD)在剩余长度限制内维持可验证的完整输出,不回溯 token,在严格长度限制下将 DRS 的 Smatch++ 较局部掩码提升 5.1 和 2.4 分,AMR 提升 6.4 和 3.2 分。
正文 · AI 翻译
摘要:神经语义解析器逐词元生成意义表示,但其良构性取决于生成过程中展开的引用、作用域和图关系。受约束解码可防止局部无效词元,但无法保证在固定输出长度限制内能够补全一个有效前缀。我们研究了 DRS 解析三个阶段的机构自动机(解码、事后处理和训练),并额外在 AMR 上评估了解码。对于解码,我们引入了接受路径解码(APD),它在剩余长度限制内维持一个经过验证的补全,并在模型偏好的词元也能被补全时跟随该词元。APD 保证在不撤回词元的情况下输出被接受的结果。在严格的长度限制下,它在 DRS 上比局部掩码将 Smatch++ 提高了 5.1 和 2.4 个点,在 AMR 上提高了 6.4 和 3.2 个点,与相同限制下会撤回词元的回滚方法相当。对于事后处理,无效输出集中在相同的输入上:在训练数据有限的情况下,八个无约束样本对 10.2% 的输入未产生有效输出,而在完整数据下这一比例为 0.4%,此时过滤与 APD 的 Smatch++ 差距在 0.2 个点以内。对于训练,惩罚被自动机拒绝的词元在训练 10% 后将开发集 Smatch++ 提高了 3.6-11.0 个点,但随着仅靠交叉熵在有限数据下于训练的前六分之一内将被拒绝词元的概率从 14% 降至 2% 以下,这一优势逐渐消失。
| 学科: | 计算与语言(cs.CL) |
| 引用为: | arXiv:2610.13896 [cs.CL] |
| (或 arXiv:2610.13896v1 [cs.CL] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2610.13896 arXiv 颁发的 DOI 通过 DataCite(待注册) |
提交历史
来自:Xiao Zhang [查看电子邮件]
[v1]
2026 年 10 月 9 日星期五 17:42:14 UTC(1,098 KB)
来源:arXiv cs.CL · arxiv.org