研究发现视觉语言模型图像变换会编码敏感属性

Soumyajit Datta、Arka Dutta 和 Ashiqur R. KhudaBukhsh 发表论文称，两个知名视觉语言模型在被要求将人脸图像转换为特定种族（如西班牙裔、黑人、白人、亚裔）或性取向（如同性恋、异性恋）时，往往会照做。研究指出，模型是否遵从请求具有非确定性和群体敏感性，生成的图像在统计上可区分，并常强化刻板印象。 研究还发现，图像生成中引入的表征偏差会在文本推理与人物刻画任务中重现；这一现象不限于种族与性取向，图像生成同样会延续与犯罪相关的偏见，带来 AI 辅助画像的风险。

AI 根据报道生成 · 38 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。