arXiv cs.CL· Muhammad Imran, Carlos G\'omez-Rodr\'iguez·· 11 小时前AI 评分18
用多任务学习句法增强做极性分类:Contrastive-MTL 在 11 个数据集上 10 个超越基线
Polarity Classification with Multitask Learning Syntax Augmentation
AI 导读
研究提出两种将句法知识融入神经情感分析的多任务学习策略:Standard-MTL 用共享编码器加两个任务头联合学习依存句法与极性分类,Contrastive-MTL 则通过对比辅助目标和句法偏置注意力池化提供隐式句法引导。
正文 · AI 翻译
摘要:情感分析(SA)是一项基础的自然语言处理(NLP)任务,关注文本中主观信息的识别与分类。基于词典的方法虽然具有可解释性,但往往难以处理否定和强调等语言现象。为此,句法分析已被整合进 SA 流程,但传统解析器会带来显著的计算开销。近期研究表明,将依存句法分析重构为序列标注(SEL)任务可以提升效率。我们提出并比较了在统一的多任务学习(MTL)框架下,将句法知识整合进神经情感分析模型的两种策略。第一种是 Standard-MTL,它使用共享编码器和两个任务特定头,联合学习依存句法分析(通过序列标注)和情感极性分类。第二种是 Contrastive-MTL,它通过对比辅助目标和句法偏置的注意力池化机制提供隐式句法指导,无需显式标签预测。两者在训练时都依赖句法标注,并在推理时无需手工构建的组合规则或外部解析器。我们使用四种成熟的 SEL 编码,在涵盖七种语言的十一个数据集上进行了评估——MARC 语料库(英语、西班牙语、法语、德语)以及来自 SemEval-2022 Task 10 的七个数据集(英语、西班牙语、挪威语、巴斯克语、加泰罗尼亚语)。在相对编码下,Contrastive-MTL 在 11 个数据集中的 10 个上优于无句法基线,并在其适用的全部六个数据集上超过了在推理时进行解析的外部基于规则的流程(SELSP),同时在评估时快 1.5--9$\times$。Standard-MTL 则更依赖于数据集和编码方式。这些结果表明,训练期间的隐式句法监督可以在没有计算开销的情况下达到或超过推理时的显式解析。
| 主题: | 计算与语言(cs.CL) |
| 引用为: | arXiv:2611.08323 [cs.CL] |
| (或 arXiv:2611.08323v1 [cs.CL] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2611.08323 arXiv 颁发的 DOI 通过 DataCite(待注册) |
提交历史
来自:Muhammad Imran [查看电子邮件]
[v1]
2026年11月5日星期四 17:19:09 UTC(1,896 KB)
来源:arXiv cs.CL · arxiv.org