arXiv cs.CL· Dongheng Li, Yongchang Hao, Lili Mou·· 2 天前AI 评分22
LLMR：用大语言模型诱导奖励函数做知识蒸馏
LLMR: Knowledge Distillation with a Large Language Model-Induced Reward
AI 导读
研究者提出知识蒸馏方法 LLMR，用大语言模型诱导出的奖励函数指导学生模型训练。在对话生成和摘要等多个数据集上，LLMR 的表现持续优于传统知识蒸馏方法。该工作已被 LREC-COLING 2024 接收。
正文 · AI 翻译
摘要：大语言模型已日益普及，并在各类自然语言处理（NLP）任务中展现出卓越性能。然而，这些模型通常计算开销高昂，难以部署在资源受限的环境中。本文提出 LLMR，一种基于大语言模型诱导奖励函数的新型知识蒸馏（KD）方法。我们在对话生成和摘要任务的多个数据集上进行了实验。实证结果表明，我们的 LLMR 方法在不同任务和数据集上始终优于传统的 KD 方法。
| 评论： | 被 LREC COLING 2024 接收 |
| 主题： | 计算与语言（cs.CL）；人工智能（cs.AI） |
| 引用格式： | arXiv:2409.12500 [cs.CL] |
| （或 arXiv:2409.12500v2 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2409.12500 arXiv 颁发的 DOI，通过 DataCite |
|
| 期刊 参考： | Proceedings of the 2024 Joint International Conference on Computational Linguistics, Language Resources and Evaluation (LREC-COLING 2024), pages 10657-10664 |
提交历史
来自：Dongheng Li Mr [查看电子邮件]
[v1]
2024年9月19日星期四 06:27:58 UTC（389 KB）
[v2]
2026年10月15日星期四 03:54:48 UTC（374 KB）
来源：arXiv cs.CL · arxiv.org