扩散语言模型公平性随采样配置变化
热点事件持续更新
扩散语言模型公平性随采样配置变化
1 篇报道1 个报道来源10 小时前更新
先了解这件事
AI 综述
Koshiro Saito 等作者在 Open-BBQ 上评测 LLaDA、LLaDA-1.5 和 Dream 三个扩散语言模型，发现三者均存在社会偏见，且测得的偏见幅度以及模型间按偏见程度的排序都高度依赖采样配置。 研究还发现，为自回归模型设计的去偏策略可以迁移到扩散语言模型，在不损害下游性能的前提下降低偏见，但采样依赖性在去偏后依然存在。作者据此认为，扩散语言模型的公平性无法脱离采样配置单独刻画。
AI 根据报道生成 · 50 分钟前更新
最新进展10月21日 12:00
扩散语言模型的公平性会随采样配置变化：LLaDA、LLaDA-1.5 与 Dream 在 Open-BBQ 上的评测报道时间线
沿着报道，了解事件的不同侧面。
10月21日
- arXiv cs.CL扩散语言模型的公平性会随采样配置变化：LLaDA、LLaDA-1.5 与 Dream 在 Open-BBQ 上的评测
研究在 Open-BBQ 上评测 LLaDA、LLaDA-1.5 和 Dream 三个扩散语言模型，发现三者均存在社会偏见，且偏见幅度与模型间的偏见排序都高度依赖采样配置。针对自回归模型设计的去偏策略可有效迁移到扩散语言模型，在不损害下游性能的前提下降低偏见，但采样依赖性在去偏后依然存在。结果表明扩散语言模型的公平性无法脱离采样配置单独刻画。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。