跳到正文
arXiv cs.AI· Zhe Dong, Fang Qin·· 10 小时前AI 评分29

用可验证的答案改变对照评估神经图算法中的不变性训练

Evaluating invariance training with certified answer-changing controls in neural graph algorithms

AI 导读

研究用最小生成树上的可验证答案改变对照检验不变性训练评估:复现的图 Transformer(GDT)在 64 顶点图上经桥接附加子图后,对可证明固定标签的改动率达 53.3-65.9%。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:不变性训练旨在使神经算法推理器对保持答案不变的输入变化具有鲁棒性,其评判依据是准确率以及此类编辑改变预测的罕见程度。我们探究这种评估是否能检测出在合成图的最小生成树上对改变答案的编辑所丧失的敏感性,在此两个方向均可得到认证。通过一条桥接边附加子图可证明地保留每个原始标签。通过两条边附加该子图(由预言机选择以改变某个标签),并降低图内一个权重,作为改变答案的对照;响应是指在标签发生变化的边上预测发生改变。一个复现的图变换器(GDT)在其已发表的准确率范围内,在 64 顶点桥接附加后能精确求解的 64 顶点图中,有 53.3-65.9% 的图改变了可证明固定的标签;移除连接边影响甚微。在 16 顶点图及附加操作下,三个不变性目标将 GDT 违规从配对数的 2.91% 降至 0.52-2.02%,准确率基本不变。训练还将对两条边附加的响应从 97.6% 降至 66.0-79.0%,而对基图内权重编辑的响应保持在约 99.5%。在 64 顶点时准确率也下降,但在 16 顶点基图上只有附加对照能揭示这种损失。消息传递网络在较小惩罚权重下会损失部分附加响应,但获得的不变性很少。将常规训练的 GDT 分别在各双连通块上运行,可消除所有观察到的违规,并保持准确率和两种响应,因此该任务并不强制这种权衡。对已训练不变性的敏感性检查应包含经认证的改变答案的编辑,其附加材料的方式与训练编辑相同。
评论: 25 页,3 幅图,16 张表
主题: 人工智能(cs.AI)
ACM 分类: I.2.6; G.2.2
引用为: arXiv:2611.23907 [cs.AI]
  (或 arXiv:2611.23907v1 [cs.AI] 为此版本)
  https://doi.org/10.48550/arXiv.2611.23907

由 DataCite 颁发的 arXiv DOI(待注册)

提交历史

来自:Zhe Dong [查看邮箱]
[v1] 2026 年 11 月 18 日星期三 05:59:36 UTC(81 KB)

来源:arXiv cs.AI · arxiv.org