arXiv cs.AI· Yuefeng Xu, Jun Yu·· 11 小时前AI 评分20
利用稀疏历史搜索:从不完整搜索日志与零成本代理进行跨任务架构搜索
Searching with Sparse Histories: Cross-Task Architecture Search from Incomplete Search Logs and Zero-Cost Proxies
AI 导读
一种风险鲁棒策略将稀疏源日志与零成本代理结合,通过冠军初始化与成对排序器联合预训练实现跨任务神经架构搜索。在 TransNAS-Bench-101 上,该方法将 Micro autoencoding 的最差 10% 排名从 290 降至 43,Macro room layout 从 465 降至 45。
正文 · AI 翻译
摘要:神经架构搜索(NAS)成本高昂,但跨任务迁移可以通过复用先前任务的知识来降低成本。然而,现有方法难以应对稀疏的搜索历史和任务特定的迁移失败。我们提出一种方法,一种风险鲁棒策略,通过基于冠军的初始化和联合成对排序器预训练,将稀疏源日志与零成本代理相结合。在 TransNAS-Bench-101 上,该方案缓解了严重的最坏情况失败,将 Micro 自动编码的最差 10% 排名从 290 降至 43,将 Macro 房间布局从 465 降至 45。在 13 个单元空间目标上,它在 10 个目标上的平均性能和最坏情况性能均优于仅使用代理的排序器,同时保持有竞争力的平均性能。
| 主题: | 机器学习(cs.LG);人工智能(cs.AI);计算机视觉与模式识别(cs.CV);神经与进化计算(cs.NE) |
| 引用为: | arXiv:2610.32179 [cs.LG] |
| (或 arXiv:2610.32179v1 [cs.LG] 为此版本) | |
| https://doi.org/10.48550/arXiv.2610.32179 由 DataCite 颁发的 arXiv DOI(待注册) |
提交历史
来自:Jun Yu [查看电子邮件]
[v1]
2026年10月23日星期五 05:25:58 UTC(139 KB)
来源:arXiv cs.AI · arxiv.org