跳到正文
热点事件持续更新

研究:权重编辑可改变模型的伦理优先级

1 篇报道1 个报道来源10 小时前更新

先了解这件事

AI 综述

一项研究通过权重编辑改变概念监督文本模型的拟合选择权重,使推翻正式承诺所需收益高于普通承诺。作者称,在六个独立训练的文本读取器上,该编辑在100%的目标普通冲突和83.3%的目标正式冲突中按两种顺序均选择较大群体,同时保留源模型在较小冲突上的成功率和事实准确性。 研究的问题是:权重编辑能否改变模型在“遵守承诺”与“惠及更多人”之间的取舍。上述比例来自作者报告的目标冲突测试,并非对所有冲突或所有模型的普遍结论。

AI 根据报道生成 · 56 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月20日
  1. arXiv cs.AI
    权重空间编程能否改变模型习得的伦理优先级?

    一项研究通过权重编辑改变概念监督文本模型的拟合选择权重,使推翻正式承诺所需收益高于普通承诺,在六个独立训练的文本读取器上,该编辑在 100% 的目标普通冲突和 83.3% 的目标正式冲突中按两种顺序均选择较大群体,同时保留源模型在较小冲突上的成功率和事实准确性。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。