跳到正文
arXiv cs.AI· Eunseob Choi, Kyeonghun Kim, Hyuk-Jae Lee, Nam-Joon Kim·· 1 天前AI 评分31

ReuScope:审计 Capsule Vision 2024 的数据复用与评估敏感性

ReuScope: Auditing Data Reuse and Evaluation Sensitivity in Capsule Vision 2024

AI 导读

ReuScope 是一套审计数据复用与评估敏感性的协议,以 Capsule Vision 2024 为案例,发现字节完全相同的文件跨越了公开训练-验证边界,全部 41 段 Kvasir-Capsule 录像均同时出现在两个分区。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:我们开发了 ReuScope,一个用于审计数据复用和评估敏感性的协议,并以 Capsule Vision 2024 作为案例研究。它将数据关系的测量与两项比较相结合:在保持预测固定的情况下改变评估总体,以及在保持评估固定的情况下改变训练数据。字节完全相同的文件跨越了公开的训练-验证边界,并且所有贡献帧的 41 个 Kvasir-Capsule 录制都同时出现在两个分区中。共享的源录制确立了跨划分重叠;缺失的跨录制患者标识符导致无法统计唯一共享患者。在十个配对种子中,移除所有归属于 Kvasir-Capsule 的训练行,以及来自其他来源、被标记为与其近似匹配的五行的训练行,使公开验证的平衡准确率从 82.5% 降至 61.2%。在其他来源的验证行上评估相同的已拟合模型,则得出相反的结论:移除使平衡准确率提高了 1.38 个百分点。公开验证的下降衡量的是对来源移除的敏感性,而非泄漏导致的膨胀量。匹配对照表明,仅样本量和类别计数并不能解释观察到的分数差异。一项探索性实验移除了与训练集有密切匹配的验证帧的训练邻居,或同等数量的远距离训练行,并得出相对于匹配的未标记帧的差中差估计值为真实类别概率的 -0.355 个百分点;准确率的配对 t 区间跨越零。由此产生的流程区分了观察到的复用与条件性能敏感性,并为每个结论指定了总体、类别支持和不确定性单位。
评论: 已被 NeurIPS 2026 的评估与数据集方向接收。39 页,3 张图。代码和数据:此 https URL
主题: 人工智能(cs.AI);计算机视觉与模式识别(cs.CV)
引用为: arXiv:2610.41835 [cs.AI]
  (或 arXiv:2610.41835v1 [cs.AI] 用于此版本)
  https://doi.org/10.48550/arXiv.2610.41835

arXiv 颁发的 DOI 通过 DataCite(待注册)

提交历史

来自:Eunseob Choi [查看电子邮件]
[v1] 2026 年 10 月 30 日星期五 14:51:37 UTC(66 KB)

来源:arXiv cs.AI · arxiv.org