研究称投毒式后门无法具备密码学不对称性

Masahiro Kaneko 发表论文称，基于投毒安装的后门无法获得密码学认证方案那样的不对称性。其论证是：能从投毒数据安装验证器的训练过程本身就是该验证器的学习器，因此计算上难以学习的验证器无法通过投毒安装；而投毒能安装的验证器，可被拥有相当数量带标签触发样本的白盒防御者重建。 在指令微调大语言模型上的实验显示，没有任何配置能同时做到对攻击者有效、对防御者不可恢复。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。