arXiv cs.CL· Ahmet Yavuz Uluslu, Mark Gales, Kate Knill, Gerold Schneider·· 11 小时前AI 评分22
利用 LLM Token 概率从 L2 英语推断母语背景
Inferring L1 Backgrounds from L2 English with LLM Token Probabilities
AI 导读
研究提出一种 Token 概率方法，将文本按指定候选母语的提示词前缀计算续写得分，取最高分作为预测结果，用于从 L2 英语推断说话者的母语背景。
正文 · AI 翻译
摘要：母语识别（NLI）从非母语者的第二语言（L2）产出中推断其第一语言（L1）。我们研究了一种词元概率方法，该方法将每个文本样本作为指定候选 L1 的提示前缀的续写进行评分，然后预测得分最高的候选。我们使用 Llama 3.1 8B 和 70B 在三个数据集上评估我们的方法：TOEFL9、Write and Improve 2024 和 BULATS-L1。我们将其性能与之前基于提示的分类方法进行比较。词元概率评分在直接分类的基础上大幅提升，尤其是在 8B 模型上，而 70B 模型在所有数据集上均达到最先进性能。我们的结果表明，预训练 LLM 的词元概率包含有助于从 L2 英语产出中区分 L1 背景的信息。
| 主题： | 计算与语言（cs.CL） |
| 引用为： | arXiv:2610.23309 [cs.CL] |
| （或 arXiv:2610.23309v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.23309 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Ahmet Yavuz Uluslu [查看电子邮件]
[v1]
2026年10月16日星期五 11:12:42 UTC（300 KB）
来源：arXiv cs.CL · arxiv.org