arXiv cs.AI· Dongchan Cho, Jiho Han, Juwon Hwang, Changhee Min, Minsang Kim, Namsoon Jung·· 12 小时前AI 评分31
AnoMix:多教师评分原则蒸馏的无监督时间序列异常检测
Distilling Multi-Teacher Scoring Principles for Unsupervised Time Series Anomaly Detection
AI 导读
AnoMix 通过从冻结教师检测器的训练集异常分数中提取弱成对监督,并用多教师排序蒸馏目标 CoRank 将异构教师评分原则蒸馏进单个轻量学生检测器。在七个基准数据集上,该模型以不足 80k 参数的学生模型超越了单个检测器和静态分数集成。其零样本变体还显示蒸馏出的排序信号可迁移到未见数据集,并在异常检测上优于大型预训练时间序列基础模型。
正文 · AI 翻译
摘要:时间序列异常形式多样,而单个检测器所编码的异常评分原则各不相同,很少能覆盖所有异常类型。近期的无监督时间序列异常检测器提供了互补的评分信号,但将它们作为集成部署会保留每个单独检测器的推理与维护成本。我们研究在无监督设定下,能否将异构的教师检测器蒸馏为单个轻量级检测器,此时没有异常标签可用于定义共享目标。AnoMix 通过从冻结教师的训练集异常分数中提取弱成对监督来解决这一问题。它独立地对每个教师的分数序列进行归一化,并用 CoRank 训练学生模型;CoRank 是一种多教师排序蒸馏目标,通过教师共识将教师分数差距转化为成对监督。在七个基准数据集上,AnoMix 成功地将互补的教师评分原则整合到单个可部署模型中,在基准设置下使用参数量低于 80k 的紧凑学生模型,优于单个检测器和静态分数集成。一个零样本变体进一步表明,蒸馏出的排序信号可迁移到未见过的数据集,并在异常检测上优于大型预训练时间序列基础模型。
| 评论: | 被 NeurIPS 2026 接收 |
| 主题: | 机器学习(cs.LG);人工智能(cs.AI) |
| 引用为: | arXiv:2610.29063 [cs.LG] |
| (或本版本使用 arXiv:2610.29063v1 [cs.LG]) | |
| https://doi.org/10.48550/arXiv.2610.29063 由 DataCite 颁发 arXiv DOI(待注册) |
提交历史
来自:Dongchan Cho [查看邮箱]
[v1]
2026年10月21日星期三 01:42:19 UTC(544 KB)
来源:arXiv cs.AI · arxiv.org