跳到正文
arXiv cs.AI· Sunny Gupta, Amit Sethi·· 3 天前AI 评分12

曲率启发的标量特征缩放用于域泛化的受控评估:HyperDG 在 PACS、VLCS、Office Home、TerraIncognita 上未优于 ERM

A Controlled Evaluation of Curvature Inspired Scalar Feature Scaling for Domain Generalization

AI 导读

一项受控评估检验了被称为 HyperDG 的窄实现——训练时用可学习正标量重缩放欧氏编码器特征、推理时对未缩放特征使用普通线性分类器,在 PACS、VLCS、Office Home、TerraIncognita 四个数据集共 384 次运行中,其等数据集宏平均点估计比原生 DomainBed ERM 低 1.61 个百分点(95% 聚类 CI [-3.17, -0.04])。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:领域特定曲率是领域泛化(DG)中一个颇具吸引力的想法,但曲率学习可能意味着截然不同的计算。本文评估了一种刻意收窄的实现:代码将其称为 HyperDG,但它在训练期间通过学习到的正标量对欧几里得编码器特征进行重新缩放,并在推理时对未缩放的欧几里得特征使用普通线性分类器。它并未实现洛伦兹或庞加莱表示、测地线预测或锐度感知最小化内循环。我们审计了实际执行的目标,并在 PACS、VLCS、Office Home 和 TerraIncognita 上评估了六种条件。完整设计包含 384 次运行:六种条件、四个留出目标,以及每个数据集四个运行种子。检查点仅使用三个源验证环境进行选择。推理首先在每个留出目标内对配对的种子差异取平均;每个数据集的聚类是目标,而非 16 个种子×目标的观测。完整实现的等数据集宏观点估计比原生 DomainBed ERM 低 1.61 个百分点(95% 聚类 CI [-3.17, -0.04])。所有四个数据集的点估计都偏向 ERM,但精确的四数据集符号翻转检验给出 p = .125,Holm 校正后 p = .250;因此我们声称没有校正后的差异证据。更清晰的领域特定性对比——分离的学习源尺度(不含其方差惩罚)与一个共享的学习源尺度——为 -0.13 个百分点(95% CI [-0.53, 0.27])。其 90% CI 位于修订阶段 ±1 个百分点的最小实际关注效应之内(TOST p = .003),仅支持源选择套件宏观层面的等效性,而非每个数据集、目标或最终步骤端点。因此,本研究为这一标量训练包提供了一个有界的负面结果;它并未测试或反驳真正的双曲表示学习。
评论: 已被 TMLR 接收,9 页,1 张图
主题: 机器学习(cs.LG);人工智能(cs.AI);计算机视觉与模式识别(cs.CV)
ACM 分类: I.2.6; C.1.4; D.1.3; I.5.1; H.3.4; I.2.10; I.4.0; I.4.1; I.4.2; I.4.6; I.4.7; I.4.8; I.4.9; I.4.10; I.5.1; I.5.2; I.5.4; J.2; I.2.11; I.2.10
引用为: arXiv:2610.18227 [cs.LG]
  (或本版本使用 arXiv:2610.18227v1 [cs.LG])
  https://doi.org/10.48550/arXiv.2610.18227

arXiv 颁发的 DOI 通过 DataCite(待注册)

提交历史

来自:Sunny Gupta [查看电子邮件]
[v1] 2026年10月13日星期二 11:56:18 UTC(65 KB)

来源:arXiv cs.AI · arxiv.org