跳到正文
热点事件持续更新

研究:LLM道德排序不稳定,聚合掩盖

2 篇报道1 个报道来源4 小时前更新

先了解这件事

AI 综述

一项研究让包括 GPT-5.2、Gemini、DeepSeek 在内的 5 个 LLM 对成对道德违规行为做比较,并直接从 next-token 输出读取概率。调换两个选项的顺序后,30 个测试块中有 26 个的排序发生变化。 研究者据此称,LLM 的道德选择往往缺乏稳定的价值排序;对答案取平均会造出虚假的、类人的道德层级。后续报道进一步称,聚合分析会制造出价值层级一致的假象,从而掩盖这种排序不稳定性。 上述结论均来自 Rohan Paul 引述的研究者。

AI 根据报道生成 · 32 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月11日
  1. RadarAI
    研究:LLM 在道德价值排序中未通过传递性测试,聚合分析掩盖排序不稳定性

    一项研究发现大语言模型在选项顺序变化时给出的道德价值排序不一致,30 个测试集中有 26 个出现排序不稳定。聚合分析会制造出价值层级一致的假象,从而掩盖这种不稳定性。

  2. RadarAI
    研究:LLM 道德选择缺乏稳定价值排序

    一项论文发现,LLM 的道德选择往往缺乏稳定的价值排序,对答案取平均会造出虚假的、类人的道德层级。研究者让包括 GPT-5.2、Gemini、DeepSeek 在内的 5 个 LLM 对成对道德违规行为做比较,并直接从 next-token 输出读取概率;调换两个选项的顺序后,30 个测试块中有 26 个的排序发生变化。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。