arXiv cs.AI· Shadman Rabby, Md. Hefzul Hossain Papon, Sabbir Ahmed, Nokimul Hasan Arif, A. B. M. Ashikur Rahman, Irfan Ahmad·· 11 小时前AI 评分34
视觉语言模型中的道德谄媚行为研究
Moral Sycophancy in Vision Language Models
AI 导读
一项针对视觉语言模型（VLM）道德谄媚行为的首个系统性研究分析了10个广泛使用的模型，发现在用户明确表示异议时，模型即使初始判断正确也常给出道德错误的后续回答，且更易从道德正确转向道德错误。
正文 · AI 翻译
摘要：视觉语言模型（VLM）中的谄媚行为是指其倾向于迎合用户观点，往往以牺牲道德或事实准确性为代价。尽管已有研究探讨了一般情境下的谄媚行为，但其对基于道德的视觉决策的影响仍未被充分理解。为填补这一空白，我们开展了首个针对 VLM 道德谄媚行为的系统性研究，在明确用户异议的条件下，分析了十个广泛使用的模型在 Moralise 和 M^3oralBench 数据集上的表现。结果表明，即使初始判断正确，VLM 也经常产生道德上错误的后续回复，并表现出一致的不对称性：在用户诱导的偏差下，模型从道德正确转向道德错误判断的可能性高于反向转变。后续提示通常在 Moralise 上导致性能下降，而在 M^3oralBench 上则产生混合甚至提升的准确率，凸显了道德鲁棒性因数据集而异的差异。使用错误引入率（EIR）和错误纠正率（ECR）进行评估揭示了一个明显的权衡：纠错能力更强的模型往往引入更多推理错误，而更保守的模型能最小化错误，但自我纠正能力有限。最后，具有道德正确立场的初始上下文会引发更强的谄媚行为，强调了 VLM 对道德影响的脆弱性，以及需要采取有原则的策略来提升多模态 AI 系统的伦理一致性和鲁棒性。
| 评论： | 提交至 EACL 2027 |
| 学科： | 人工智能（cs.AI） |
| 引用为： | arXiv:2602.08311 [cs.AI] |
| （或 arXiv:2602.08311v2 [cs.AI] 为本版本） | |
| https://doi.org/10.48550/arXiv.2602.08311 由 DataCite 颁发 arXiv DOI |
提交历史
来自：Sabbir Ahmed [查看邮箱]
[v1]
2026年2月9日星期一 06:34:12 UTC（2,235 KB）
[v2]
2026年10月16日星期五 12:59:09 UTC（16,380 KB）
来源：arXiv cs.AI · arxiv.org