arXiv cs.CL· Artem Suslov, Takehiro Hashimoto·· 11 小时前AI 评分22
将 LLM 标注的文学情感蒸馏进序数 BERT 模型
Distilling Literary Sentiment from LLM Annotations into an Ordinal BERT Model
AI 导读
研究用 Gemma 4 31B 按十点情感量表标注的 10,889 条文学句子，以序数回归微调五个 BERT 模型，并在海明威《老人与海》的 1,923 条人工标注句子上评估。
正文 · AI 翻译
摘要：人工标注的文学语料稀缺，限制了领域特定情感分析模型的发展。本研究探讨 LLM 生成的标注能否用于监督较小的模型进行文学情感分析。我们使用由 Gemma 4 31B 在十分制情感量表上标注的 10,889 个文学句子，通过序数回归对五个 BERT 模型进行微调。这些模型在来自海明威《老人与海》的 1,923 个人工标注句子上进行评估，并与教师模型和传统基线进行对比。
BERT-large 的 Kendall's $\tau$ 达到 0.589，接近教师模型的 0.604。尽管恒定中性预测器取得了最低的总体平均绝对误差（MAE），但 BERT-base 在非中性句子上优于教师模型，MAE 为 0.726，而教师模型为 1.116。这些发现表明 LLM 生成的监督在开发较小的文学情感模型方面具有潜力，同时凸显了在主要为中性的数据集上聚合误差指标的局限性。
| 学科： | 计算与语言（cs.CL） |
| 引用为： | arXiv:2611.02985 [cs.CL] |
| （或 arXiv:2611.02985v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2611.02985 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Artem Suslov [查看电子邮件]
[v1]
2026年11月2日星期一 11:56:12 UTC（45 KB）
来源：arXiv cs.CL · arxiv.org