跳到正文
arXiv cs.AI· Lars van der Laan, Mark Van Der Laan·· 1 天前AI 评分18

Calibeating Prediction-Powered Inference:校准预测分数提升半监督均值估计效率

Calibeating Prediction-Powered Inference

AI 导读

研究者提出 Calibrated Prediction-Powered Inference,在标注样本上对预测分数做后校准后再用于半监督均值估计,无需重训练即可同时提升预测精度与估计效率。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:我们研究半监督均值估计问题,其设定为:小规模有标签样本、大规模无标签样本,以及一个输出可能校准不良的黑盒预测模型。该设定下的标准方法是增强逆概率加权(AIPW)[Robins et al., 1994],它能防止预测模型设定错误,但当预测分数与结果尺度对齐不佳时可能效率低下。我们提出校准预测驱动推断(Calibrated Prediction-Powered Inference),它在将有标签样本上的预测分数用于半监督估计之前对其进行事后校准。这一简单步骤无需重新训练,并且可以校准原始分数,既提升其作为结果预测器的表现,也提升其作为半监督推断回归调整项的表现。我们研究了线性校准和等渗校准。对于等渗校准,我们建立了一阶最优性保证:等渗后处理相对于原始分数和更简单的后处理规则,可以提升预测准确性和估计器效率,而将拟合的等渗分数替换为其条件均值 oracle 不会带来额外的一阶方差缩减。对于线性校准,我们证明其与 PPI++ 一阶等价。我们还厘清了现有估计器之间的关系,表明原始 PPI 估计器是 AIPW 的一个特例,且当预测模型准确时可能效率低下,而 PPI++ 是带有经验效率最大化的 AIPW [Rubin and van der Laan, 2008]。在模拟和真实数据实验中,我们的校准估计器通常优于 PPI,并与 AIPW 和 PPI++ 相当或优于它们。我们提供了配套的 Python 包 ppi_aipw,见 此 https URL。
评论: 本文的会议版本已被 NeurIPS 2026 接收。已发表的会议版本:此 https URL。论文网站:此 https URL
主题: 机器学习(stat.ML);人工智能(cs.AI);机器学习(cs.LG);计量经济学(econ.EM);定量方法(q-bio.QM);方法论(stat.ME)
引用为: arXiv:2604.21260 [stat.ML]
  (或 arXiv:2604.21260v2 [stat.ML] 用于此版本)
  https://doi.org/10.48550/arXiv.2604.21260

arXiv 颁发的 DOI 通过 DataCite

提交历史

来自:Lars Van Der Laan [查看邮箱]
[v1] 2026年4月23日 周四 04:06:08 UTC(198 KB)
[v2] 2026年11月12日 周四 02:02:05 UTC(220 KB)

来源:arXiv cs.AI · arxiv.org