跳到正文
arXiv cs.CL· Vihindi Kotalawala, Nevidu Jayatilleke·· 9 天前AI 评分25

PlurVA-LLM 2026 Track-1:通过多语言微调与阈值校准实现 LLM 多元价值对齐

PlurVA-LLM-2026 Shared Task Track-1: Pluralistic Value Alignment in LLMs via Multilingual Fine-Tuning and Threshold Calibration

AI 导读

针对 PlurVA-LLM 2026 共享任务 Track-1 的中国、印尼、斯里兰卡多元价值对齐,该系统用 4-bit QLoRA 微调 Llama 3.1 8B Instruct,并结合选项置换增强、标注者投票扩展与 SinhalaMMLU 增强及条件阈值校准。最终准确率为中国 0.785、印尼 0.715、斯里兰卡 0.916,整体宏平均 0.805。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:我们展示了参加 PlurVA-LLM 2026 共享任务 Track-1 的系统,该任务聚焦于中国、印度尼西亚和斯里兰卡语境下的多元价值对齐。针对这一资源受限的赛道,我们使用 4-bit QLoRA 对 Llama 3.1 8B Instruct 进行了微调。我们的方法结合了针对中文数据的选项排列增强、针对印度尼西亚数据的标注者投票扩展,以及针对斯里兰卡数据的二元重构与 SinhalaMMLU 增强。我们还对斯里兰卡数据的预测应用了条件阈值校准。最终系统在中国、印度尼西亚和斯里兰卡数据上分别取得了 0.785、0.715 和 0.916 的准确率,总体宏平均准确率为 0.805。
评论: 11 页,6 幅图,6 张表,已被 AACL-IJCNLP 2026 第一届 LLM 多元价值对齐研讨会接收为论文
主题: 计算与语言(cs.CL)
引用为: arXiv:2609.32382 [cs.CL]
  (或使用 arXiv:2609.32382v2 [cs.CL] 查看此版本)
  https://doi.org/10.48550/arXiv.2609.32382

由 DataCite 颁发的 arXiv DOI

提交历史

来自:Nevidu Jayatilleke 先生 [查看电子邮件]
[v1] 2026 年 9 月 26 日星期六 08:56:11 UTC(917 KB)
[v2] 2026 年 10 月 8 日星期四 11:56:29 UTC(950 KB)

来源:arXiv cs.CL · arxiv.org