arXiv cs.AI· Romain Hermary, Nesryne Mejri, Djamila Aouada·· 11 小时前AI 评分24
评估 LLM 特征在隔离假设下用于零样本时间序列异常检测的能力
Evaluating Language Model Features for Zero-Shot Time-Series Anomaly Detection Under Isolation Assumption
AI 导读
研究将 LLM 纯作为特征提取器，在零样本设置下评估其表征对多变量时间序列异常检测（MTSAD）的可用性。方法采用每 token 一个时间步的简单分词方案保留细粒度局部信息，并用无监督 Isolation Forest 直接检验特征空间中异常点与正常点的可分离性。研究还考察了所观察到的性能是否可归因于 LLM 的语言预训练。
正文 · AI 翻译
摘要：时间序列异常检测（TSAD）是一项本质上具有挑战性的任务：它是无监督的，需要高局部精度能力，并且受限于有限的标注数据。近期工作探索了通过跨模态迁移将大语言模型（LLM）适配到时间序列。然而，现有方法难以适用于多变量 TSAD（MTSAD），因为分词往往会模糊细粒度的时间与变量结构，且大多数方法优化的是预测或重建等辅助目标。我们认为，随着模型容量增加，这些替代目标会变得不可靠。高表达能力的模型存在重建或预测异常的风险，从而削弱这两种策略的基础。因此，我们提出将 LLM 纯粹用作特征提取器，并直接分析其诱导的特征空间。在本工作中，我们通过分类研究 LLM 在零样本设置下为 MTSAD 提供有用表示的能力。为此，我们在异常特征应与正常特征分离的假设下，研究提取特征的可分离性。我们使用简单的逐步分词方案（每个 token 对应一个时间步）分析其时间与上下文判别能力，该方案保留了细粒度的局部信息。我们使用无监督的孤立森林评估其用于 MTSAD 的可用性，从而可以直接评估所得表示的质量。我们进一步研究观察到的性能是否可归因于 LLM 与语言相关的预训练，还是独立于它而产生。我们的结果为 LLM 表示多变量时间序列以进行异常检测的能力提供了实证洞见，并凸显了跨模态基础模型更广泛的应用。
| 学科： | 机器学习（cs.LG）；人工智能（cs.AI） |
| 引用为： | arXiv:2611.07720 [cs.LG] |
| （或 arXiv:2611.07720v1 [cs.LG] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2611.07720 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Romain Hermary [查看邮箱]
[v1]
2026年11月5日星期四 09:37:57 UTC（3,063 KB）
来源：arXiv cs.AI · arxiv.org