arXiv cs.CL· Vihindi Kotalawala, Nevidu Jayatilleke·· 9 天前AI 评分25
PlurVA-LLM 2026 Track-1:通过多语言微调与阈值校准实现 LLM 多元价值对齐
PlurVA-LLM-2026 Shared Task Track-1: Pluralistic Value Alignment in LLMs via Multilingual Fine-Tuning and Threshold Calibration
AI 导读
针对 PlurVA-LLM 2026 共享任务 Track-1 的中国、印尼、斯里兰卡多元价值对齐,该系统用 4-bit QLoRA 微调 Llama 3.1 8B Instruct,并结合选项置换增强、标注者投票扩展与 SinhalaMMLU 增强及条件阈值校准。最终准确率为中国 0.785、印尼 0.715、斯里兰卡 0.916,整体宏平均 0.805。
正文 · AI 翻译
摘要:我们展示了参加 PlurVA-LLM 2026 共享任务 Track-1 的系统,该任务聚焦于中国、印度尼西亚和斯里兰卡语境下的多元价值对齐。针对这一资源受限的赛道,我们使用 4-bit QLoRA 对 Llama 3.1 8B Instruct 进行了微调。我们的方法结合了针对中文数据的选项排列增强、针对印度尼西亚数据的标注者投票扩展,以及针对斯里兰卡数据的二元重构与 SinhalaMMLU 增强。我们还对斯里兰卡数据的预测应用了条件阈值校准。最终系统在中国、印度尼西亚和斯里兰卡数据上分别取得了 0.785、0.715 和 0.916 的准确率,总体宏平均准确率为 0.805。
| 评论: | 11 页,6 幅图,6 张表,已被 AACL-IJCNLP 2026 第一届 LLM 多元价值对齐研讨会接收为论文 |
| 主题: | 计算与语言(cs.CL) |
| 引用为: | arXiv:2609.32382 [cs.CL] |
| (或使用 arXiv:2609.32382v2 [cs.CL] 查看此版本) | |
| https://doi.org/10.48550/arXiv.2609.32382 由 DataCite 颁发的 arXiv DOI |
提交历史
来自:Nevidu Jayatilleke 先生 [查看电子邮件]
[v1]
2026 年 9 月 26 日星期六 08:56:11 UTC(917 KB)
[v2]
2026 年 10 月 8 日星期四 11:56:29 UTC(950 KB)
来源:arXiv cs.CL · arxiv.org