跳到正文
热点事件持续更新

研究:语言模型道德判断共用规范回路

1 篇报道1 个报道来源4 小时前更新

先了解这件事

AI 综述

Davide Liga 等作者发布论文,用 227 组经五名标注者验证的最小短语对测试 14 个开源模型(Llama、Gemma、Qwen,1B 至 14B,含基座与指令微调版),考察改变道德答案的注意力头是否专属于道德判断。 结果显示,这些注意力头属于模型处理所有规范判断共用的评估回路:道德对与其他规范对的效应份额合并比值为 1.00(含“morally”一词,97.5% 置信区间 [0.92, 1.07]),无该词时为 0.90。作者据此认为,模型中的道德表现更接近共用的规范评估回路,而非独立的道德特征。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月18日
  1. arXiv cs.AI
    语言模型中的道德回路与道德特征辨析:道德内容、规范判断还是提示词?基于 14 个模型的证据

    研究用 227 组经五名标注者验证的最小短语对测试 14 个开源模型(Llama、Gemma、Qwen,1B 至 14B,含基座与指令微调版),发现改变道德答案的注意力头属于模型处理所有规范判断共用的评估回路,道德对与其他规范对的效应份额合并比值为 1.00(含 "morally" 一词,97.5% 置信区间 [0.92, 1.07]),无该词时为 0.90。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。