研究：LLM 道德选择缺乏稳定价值排序
一项论文发现，LLM 的道德选择往往缺乏稳定的价值排序，对答案取平均会造出虚假的、类人的道德层级。研究者让包括 GPT-5.2、Gemini、DeepSeek 在内的 5 个 LLM 对成对道德违规行为做比较，并直接从 next-token 输出读取概率；调换两个选项的顺序后，30 个测试块中有 26 个的排序发生变化。
Rohan Paul· @rohanpaul_ai · X·2026-11-11 12:08· 14 分钟前AI 评分47
AI 导读
一项论文发现，LLM 的道德选择往往缺乏稳定的价值排序，对答案取平均会造出虚假的、类人的道德层级。研究者让包括 GPT-5.2、Gemini、DeepSeek 在内的 5 个 LLM 对成对道德违规行为做比较，并直接从 next-token 输出读取概率。
正文 · 原文
该论文发现，LLM 的道德选择往往缺乏稳定的价值排序，对其答案取平均会造出一个虚假的、类人的道德层级。
许多研究得出结论认为，LLM 持有合理的道德价值观，因为它们在道德测试中表现良好。但好的答案并不能表明模型会在相互竞争的价值之间进行权衡。
研究者向包括 GPT-5.2、Gemini 和 DeepSeek 在内的 5 个 LLM 提供了成对的道德违规行为，并询问哪一个更恶劣。他们直接从模型的 next-token 输出中读取每个答案的概率，然后检验这些选择是否符合一致的排序。
在 30 个测试区块中，有 26 个在调换两个选项的顺序后排序发生了变化。取平均后，5 个模型中有 4 个呈现出清晰、几乎相同的排序，而这一排序与任何单个测试集都不匹配。
在信任模型的道德对齐分数之前，请检查其选择在单个提示词和两种答案顺序下是否保持一致的排序，且不进行平均。
来源：Rohan Paul · x.com
来源：RadarAI · aihot.news