arXiv cs.AI· Kai Yi Ji·· 10 小时前AI 评分31
权重空间编程能否改变模型习得的伦理优先级?
Can Weight-Space Programming Alter Learned Ethical Priorities?
AI 导读
一项研究通过权重编辑改变概念监督文本模型的拟合选择权重,使推翻正式承诺所需收益高于普通承诺,在六个独立训练的文本读取器上,该编辑在 100% 的目标普通冲突和 83.3% 的目标正式冲突中按两种顺序均选择较大群体,同时保留源模型在较小冲突上的成功率和事实准确性。
正文 · AI 翻译
摘要:我们研究权重编辑能否改变模型在遵守承诺与惠及更多人之间的权衡方式。在一个概念监督的文本模型中,我们调整拟合的选择权重,使得推翻正式承诺所需的好处大于推翻普通承诺。在六个独立训练的文本阅读器上,该编辑在 100% 的目标普通冲突和 83.3% 的目标正式冲突中,在两种顺序下都选择了较大的群体。它保留了源模型在较小冲突上的成功率和事实准确性。剩余的正式冲突失败与读取受益人数字时的错误同时出现。一个单独的分类器说明了这种区分为何重要:复用事实性答案能通过无条件选择测试,但无法保留小差距承诺。在 COCO128 上的 YOLO11n 试点中,偏差编辑将小目标匹配数从 3/43 提高到 9/43,而等效的分数校准复现了保留的检测结果。这些探索性结果展示了一种方法,可在具有暴露权衡机制的模型中测试对学习到的优先级进行选择性更改。该方法能否在结构化程度较低的语言模型中发现此类更改,仍有待研究。
| 主题: | 计算机视觉与模式识别 (cs.CV);人工智能 (cs.AI);机器学习 (cs.LG) |
| 引用为: | arXiv:2611.24330 [cs.CV] |
| (或 arXiv:2611.24330v1 [cs.CV] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2611.24330 由 DataCite 颁发的 arXiv DOI(待注册) |
提交历史
来自:Kai Yi Ji [查看电子邮件]
[v1]
2026年11月18日星期三 12:31:23 UTC(412 KB)
来源:arXiv cs.AI · arxiv.org