arXiv cs.AI· Naihao Deng, Alissa Shen, Yiming Feng, Joan Nwatu, Jae-Won Chung, Mosharaf Chowdhury, Yulong Chen, Rada Mihalcea·· 4 小时前AI 评分48
语言与能耗鸿沟:多语言 LLM 推理的能耗成本测量
The Language-Energy Divide: Measuring Energy Costs of Multilingual LLM Inference
AI 导读
一项系统研究发现,多语言 LLM 推理的每输出 token 能耗最高相差 8.3 倍,固定请求集的总能耗在最低的英语(17.6 kJ)与最高的普什图语(3,147 kJ)之间相差达 179 倍。
正文 · AI 翻译
摘要:大型语言模型(LLM)越来越多地部署在多语言环境中,然而在不同语言下为这些模型提供服务所需的能源成本仍鲜为人知。我们借助 this http URL 框架(Chung et al., 2026)对跨语言推理能耗进行了系统研究。我们发现显著差异:不同语言每个输出 token 的能耗最高相差 8.3 倍,而固定一组请求的总能耗在最便宜的语言(英语,17.6 kJ)与最昂贵的语言(普什图语,3,147 kJ)之间最高相差 179 倍。我们的分析表明,这种差异由两个叠加因素驱动:(1) 使用复杂或罕见文字系统的语言具有更高的每 token 能耗;(2) 低资源语言生成的 token 更多。此外,我们发现双重代价 + 性能惩罚:能耗足迹最高的语言往往也取得最低的任务准确率。我们揭示,这种能源鸿沟在不同模型、硬件和任务中持续存在,表明多语言 LLM 部署中存在系统性的能源不平等。最后,我们建议社区将能源视为一等评估维度,扩展报告清单和模型卡以纳入该维度,并采取部署侧缓解措施以提高能源效率。
| Comments: | 已被 EMNLP 2026 Main 接收 |
| Subjects: | 计算与语言(cs.CL);人工智能(cs.AI) |
| Cite as: | arXiv:2606.21869 [cs.CL] |
| (或本版本的 arXiv:2606.21869v3 [cs.CL]) | |
| https://doi.org/10.48550/arXiv.2606.21869 由 DataCite 颁发的 arXiv DOI |
Submission history
来自:Naihao Deng [查看邮箱]
[v1]
2026年6月20日星期六 04:12:29 UTC(2,507 KB)
[v2]
2026年9月14日星期一 00:16:05 UTC(2,514 KB)
[v3]
2026年11月16日星期一 20:22:44 UTC(2,505 KB)
来源:arXiv cs.AI · arxiv.org