研究:Hessian几何指标难用于分布外模型选择
热点事件持续更新
研究:Hessian几何指标难用于分布外模型选择
1 篇报道1 个报道来源11 小时前更新
先了解这件事
AI 综述
Aditya Nagarsekar 等作者发表研究,检验以 Hessian 范数为动机的前向代理指标及常见 Hessian 度量能否用于模型选择。在分子性质、蛋白质适应度和药物反应任务上,当验证 Spearman 相关性恶化时,这些几何指标并未变得更有用;该代理虽在多数任务上与泛化差距相关,却无法可靠识别部署最优模型,低几何分数甚至可能偏向坍缩的预测器。 研究还发现,用验证集增强对部分分布偏移有帮助,但对另一些偏移则显著有害。
AI 根据报道生成 · 2 小时前更新
最新进展10月23日 12:00
泛化信号未必是模型选择信号:Hessian 几何指标在分布外任务上的失效报道时间线
沿着报道,了解事件的不同侧面。
10月23日
- arXiv cs.AI泛化信号未必是模型选择信号:Hessian 几何指标在分布外任务上的失效
研究测试了以 Hessian 范数为动机的前向代理指标及常见 Hessian 度量,在分子性质、蛋白质适应度和药物反应任务上能否用于模型选择。结果显示,验证 Spearman 相关性恶化时几何指标并未变得更有用,该代理虽在多数任务上与泛化差距相关,却无法可靠识别部署最优模型,低几何分数甚至可能偏向坍缩的预测器。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。