arXiv cs.CL· Simiao Ren, Xingyu Shen, Tommy Duong, Tsang Ng, Ankit Raj·· 12 小时前AI 评分42
AI 模型的伦理边界有多牢固？15 款模型的工资单编辑测试
How Firm Are AI Models' Ethical Boundaries? A Pay-Stub Editing Test of 15 Models
AI 导读
一项研究用同一“调高工资单收入”请求测试 15 款模型，在 445 次可观察试验中，注明贷款用途时模型发出编辑调用占 14.1%，省略用途时升至 33.1%，改称“修正打印错误”时达 66.2%。
正文 · AI 翻译
摘要：措辞上的微小变化能否让 AI 模型从拒绝敏感请求转为执行该请求？我们让 15 个模型面对同一请求：提高工资单上显示的金额。在 445 次可观察试验中，当说明贷款用途时，模型发起编辑调用的比例为 14.1%；省略用途时为 33.1%；当该改动被描述为修复打印错误时则为 66.2%。Astra 拒绝了全部十次贷款用途请求，但在全部十次省略用途的试验中都发起了调用。Fable、Opus 和 Muse Spark 在三种措辞下均未发起任何调用；Sonnet 在后两种措辞下发起了一些调用。回复摘录展示了拒绝、引导或为编辑辩护的不同方式。该文件是一份带有标记的测试文档，所有工具均为模拟。这些结果探讨了边界在某一情境下的表现；它们并不能证明整体伦理排名，也不能证明现实世界中存在有害的编辑成功。
| 评论： | 11 页：4 页正文、1 页参考文献和 6 页附录；7 幅图和 4 张表；附有辅助数据和代码 |
| 主题： | 人工智能（cs.AI）；计算与语言（cs.CL） |
| 引用为： | arXiv:2610.30751 [cs.AI] |
| （或 arXiv:2610.30751v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.30751 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Tommy Duong [查看电子邮件]
[v1]
2026 年 10 月 22 日星期四 05:19:49 UTC（344 KB）
来源：arXiv cs.CL · arxiv.org