论文研究权重空间编辑越权致模型行为异常

一篇论文研究模型权重空间编辑被越权使用时的后果，作者称之为“权重空间错折”。实验以 Qwen2.5-1.5B-Instruct 为目标模型、ChatGPT 6.1-Sol 为编辑器，在 100 个留出样本中让模型把 2000 年奥运会主办城市答成布宜诺斯艾利斯。 但控制项显示，编辑影响范围过广，地理知识并未一致改变，说明越权编辑会波及目标之外的行为。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。