研究：abliteration 去除了拒答但未消除模型对台湾的脚本相关偏见

查看 PDF HTML（实验性）

摘要：开放权重语言模型的“消融”（“无审查”）版本移除了介导拒答的激活方向，其流行部分基于这样一种假设：不再拒答的模型也不受政治审查。我们在两对匹配的 2-bit 模型上测试了这一点：NVIDIA 的 Nemotron 3.5 Bolt 74B-A9B 和 Qwen3.8-Flash-Next，各自与一个社区消融版本对比。每个模型以繁体中文、简体中文（字符级转换）和英文评判了 22 组陈述对（关于中华民国（台湾）、1989 天安门、对照国家），并按每种文字回答了 27 个开放问题。文字的影响远大于消融：原始 Bolt 在繁体中文下 Index S（-1：中华人民共和国（PRC）立场；+1：ROC 立场）得分为 +0.58，英文为 +0.57，简体中文为 +0.05，并且以 0.91 的概率在简体下肯定“台湾是中国的一部分”，而在繁体下为 0.06；消融对其得分的改变至多为 0.06，主要是提高了双方的“是”。在 Qwen 中，消融移除了关于 1989 的所有拒答，并将得分提高了 0.21 至 0.34，但消融后的 Qwen 在三种文字下仍肯定台湾是中国的一部分。将国家命名为中华民国（台湾）使每个模型的得分提高 0.10 至 0.33，但文字差距依然存在。对照对未显示文字差距；每次消融只改变了其声明的张量。在 740,000 份网络文档中，简体中文关于台湾的文本包含 PRC 框架术语的频率是繁体文本的 3.7 倍。文字方向无法被引导消除；对比立场方向提高了每种文字下的得分，其否定则降低了得分。四句系统提示将消融后的 Qwen 提升至 +0.93 至 +0.97。关键词评分规则在最接近 ROC 立场的模型上失败，主要原因是归属或否认 PRC 主张。无审查并非无偏见。

评论：	33 页，3 幅图，18 张表。代码、数据和交互式项目页面：此 https URL
主题：	计算机与社会（cs.CY）；计算与语言（cs.CL）
引用为：	arXiv:2610.29342 [cs.CY]
	（或此版本的 arXiv:2610.29342v1 [cs.CY]）
	https://doi.org/10.48550/arXiv.2610.29342 由 DataCite 颁发的 arXiv DOI（待注册）

提交历史

来自：Ju-Chun Ko Dr. [查看电子邮件]
[v1] 2026 年 10 月 21 日星期三 07:37:12 UTC（74 KB）