arXiv cs.CL· Yuliang Chen, Yu Yvonne Wu, Patrick Langer, Arvind Pillai, Sudarshan Regmi, Martin Maritsch, Juncheng Liu, Robert Jakob, Thomas Kaar, Tess Z. Griffin, Lisa Marsch, Michael V. Heinz, Nicholas C. Jacobson, Andrew Campbell·· 9 天前AI 评分27
Lapras：面向时间序列语言模型的隐式推理后训练框架
Lapras: Latent Reasoning for Time Series Language Models
AI 导读
Lapras 是一个为时间序列语言模型（TSLM）赋予隐式推理能力的后训练框架，模型在时间序列-语言联合空间中进行连续思维推理，仅对最终答案输出文本。在四个 TSLM 主干、五个时间序列问答基准上，Lapras 相比显式 CoT 平均 F1 最高提升 10.79%，同时生成 token 减少 23.9 倍。其连续思维还可通过标准语言解码还原为可读的推理轨迹，保留文本解释能力。
正文 · AI 翻译
作者：Yuliang Chen、Yu Yvonne Wu、Patrick Langer、Arvind Pillai、Sudarshan Regmi、Martin Maritsch、Juncheng Liu、Robert Jakob、Thomas Kaar、Tess Z. Griffin、Lisa Marsch、Michael V. Heinz、Nicholas C. Jacobson、Andrew Campbell
摘要：时间序列语言模型（TSLMs）通过对时间信号进行推理并生成自然语言答案和解释，为理解时间序列提供了一条有前景的路径。一种常见的方法是思维链（CoT），它生成逐步推理过程，将相关信号模式与最终答案联系起来。尽管这些模型在后训练期间从参考 CoT 轨迹中学习，但在推理时生成对输入时间序列的忠实描述仍然具有挑战性。用离散的语言 token 表达高维、连续的时间表示，可能导致模型忽略与任务相关的模式或对其描述不准确。由于后续推理步骤建立在这些描述之上，早期错误会传播，导致答案错误，且其看似合理的解释与输入信号不一致。我们提出 Lapras（Latent Post-trained Reasoning Across Series），一个为 TSLMs 赋予潜在推理能力的后训练框架。使用 Lapras 训练的模型在时间序列-语言联合空间中通过一系列连续思维进行推理，仅为最终答案生成文本。它通过教师-学生自蒸馏学习这一点，其中在 CoT 参考轨迹上训练的教师通过文本进行显式推理。学生在答案阶段将其隐藏状态与教师的隐藏状态对齐，将教师的推理能力迁移到其潜在计算中。我们在五个时间序列问答基准上，跨四个 TSLM 骨干模型评估 Lapras。与显式 CoT 相比，Lapras 将平均 F1 提升最多 10.79%，同时生成的 token 数量减少 23.9 倍。Lapras 的连续思维还可以通过标准语言解码解码为可读的推理轨迹，从而保留文本解释。总之，这些结果突显了 Lapras 作为一种有前景的后训练范式，可实现高效、有效且可解释的 TSLM 推理。
| 学科： | 计算与语言（cs.CL）；机器学习（cs.LG） |
| 引用为： | arXiv:2610.11111 [cs.CL] |
| （或 arXiv:2610.11111v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.11111 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Yuliang Chen [查看电子邮件]
[v1]
2026年10月8日星期四 02:33:37 UTC（3,702 KB）
来源：arXiv cs.CL · arxiv.org