跳到正文
热点事件持续更新

SOLAR:跨语言软token对齐微调目标

1 篇报道1 个报道来源10 小时前更新

先了解这件事

AI 综述

研究者 Jiayi He 等人提出 SOLAR,一种以英语为枢轴的监督微调辅助目标,通过让不同语言中语义相关 Token 的软 Token 表示相互对齐,缓解多语言大模型的跨语言推理不一致。软 Token 是词表嵌入的概率加权混合。 据作者报告,在四个多语言推理基准上,SOLAR 相比基座模型最高提升 17.7 分,相比标准监督微调提升 3.8 分,低资源语言的增益最大。这些数字来自作者自述的实验结果。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月6日
  1. arXiv cs.CL
    SOLAR:用软 Token 对齐提升多语言大模型跨语言推理一致性

    研究者提出 SOLAR,一种以英语为枢轴的监督微调辅助目标,通过对齐跨语言的软 Token 表示来缓解多语言推理不一致。软 Token 是词表嵌入的概率加权混合,可聚合不同语言中语义相关 Token 的信息。在四个多语言推理基准上,SOLAR 相比基座模型最高提升 17.7 分,相比标准监督微调提升 3.8 分,低资源语言增益最大。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。