arXiv cs.CL· Max Rosenblattl, Nikhil Krishnaswamy, Leon Nissen, Manuel Milling, Nicolas Zumarraga, Ning Wang, Thomas Kaar, Robert Jakob, Bj\"orn W. Schuller, Elgar Fleisch, Patrick Langer, Paul Schmiedmayer·· 2 天前AI 评分29
PocketTSLM：在智能手机上本地部署的软提示时间序列语言模型
PocketTSLM: Deploying an On-Device Soft-Prompt Time-Series Language Model for Privacy-Preserving Smartphone Reasoning
AI 导读
PocketTSLM 将 OpenTSLM SoftPrompt 部署到消费级智能手机，通过把编码后的时间序列窗口作为嵌入向量注入而非文本 token 化，实现完全端侧推理，推理过程中不传输任何健康数据。
正文 · AI 翻译
作者：Max Rosenblattl、Nikhil Krishnaswamy、Leon Nissen、Manuel Milling、Nicolas Zumarraga、Ning Wang、Thomas Kaar、Robert Jakob、Björn W. Schuller、Elgar Fleisch、Patrick Langer、Paul Schmiedmayer
摘要：消费级手机和可穿戴设备越来越多地收集生理时间序列数据，但大多数移动系统将这些数据流视为摘要或文本，而非时间证据。这种表示方式与需要检索、路由或总结传感器证据并同时保留时间结构的个人健康系统并不匹配。云端托管的时间序列语言模型可以规避智能手机的限制，但它们会反复将敏感的生理数据移出设备，并增加延迟和每次查询的计算成本。将时间序列数据聚合为统计特征或将原始样本序列化为文本的移动端模型方案，要么压缩了时间结构，要么耗尽了小型端侧模型的上下文和内存预算。我们提出 PocketTSLM，这是 OpenTSLM SoftPrompt 的移动原生部署，OpenTSLM SoftPrompt 是 OpenTSLM 时间序列语言模型的软提示变体。PocketTSLM 完全在消费级智能手机上运行，通过将编码后的时间序列窗口作为嵌入注入，而不是将时间序列作为文本进行分词。一种数值一致性协议验证了 Swift 移植版与使用 Apple MLX 机器学习框架的 Python 参考实现之间贪婪解码的 token 序列完全相同。答案也与 PyTorch 参考实现一致，尽管推理过程的措辞可能不同。一项端侧上下文经济学基准测试在相同骨干网络上比较了软提示路径与文本序列化基线。在我们的基准测试格式中，软提示使用的时间序列 token 数量约少 12 倍，并降低了提示预填充成本。PocketTSLM 处理 30 秒 Sleep-EDF 脑电图片段用于睡眠分期，以及来自 ECG-QA 的 1,000 个样本（10 秒）12 导联心电图片段。相比之下，文本序列化基线在更长的时间序列窗口下会超出手机的上下文或内存预算。所有推理完全在设备上运行，推理期间不传输任何健康数据。
| 评论： | 15 页，3 幅图。本文的一个版本已被 COLM 2026 医疗保健 AI 部署研讨会（DAIH）接收。代码：此 https URL |
| 主题： | 机器学习（cs.LG）；计算与语言（cs.CL） |
| 引用为： | arXiv:2610.21308 [cs.LG] |
| （或 arXiv:2610.21308v1 [cs.LG] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.21308 arXiv 颁发的 DOI 通过 DataCite（待注册） |
提交历史
来自：Paul Schmiedmayer [查看电子邮件]
[v1]
2026 年 10 月 15 日星期四 05:56:53 UTC（2,861 KB）
来源：arXiv cs.CL · arxiv.org