arXiv cs.AI· Ze Zhao, Haoyu Jiang, Weiyu Han, Ruobing Zuo, Xiao Tan, Shuai Chen, Tianyi Zhang·· 1 天前AI 评分27
ID2Pattern:为交易风险基础模型预训练可泛化的身份行为模式
ID2Pattern: Pretraining Generalizable Identity Behavior Patterns for Transaction Risk Foundation Models
AI 导读
ID2Pattern 是一个面向交易风险基础模型的预训练框架,通过 Local Anonymous ID(LAID)tokenizer 编码卡号、设备、账户等高基数身份字段,再用多尺度模式码本将 LAID 序列抽象为离散行为模式。在超 1 亿条序列的工业数据集和六个公开数据集上,该方法平均分别提升 4.13% 和 8.83%,且在训练中所有身份值均未见过时依然有效。
正文 · AI 翻译
摘要:大规模行为预训练为在线支付系统中获得可泛化的表示提供了一条有前景的路径。然而,卡、设备和账户 ID 等高基数身份字段虽然富含行为信号,却仍未得到充分利用。它们不断增长的词表规模和有限的语义含义,使现有的基于词表和基于语义的编码方式难以适用。其可泛化的信号并不在于具体取值,而在于它们在交易序列中展现出的身份行为模式。基于这一洞见,我们提出 ID2Pattern,一个将这些模式引入交易基础模型的预训练框架。ID2Pattern 首先使用局部匿名 ID(LAID)分词器对身份字段进行编码,该分词器捕捉每个身份在序列中如何出现与复现,而不依赖其具体取值。随后,它在无标注序列上预训练一个多尺度模式码本,将 LAID 序列抽象为离散的行为模式,用于下游预测。在包含超过 1 亿条序列的工业数据集和六个公开数据集上的实验表明,ID2Pattern 持续优于强基线,在工业数据集上提升 4.13%,在公开数据集上平均提升 8.83%。值得注意的是,即使训练期间所有身份取值均未见过,ID2Pattern 依然同样有效,凸显了其泛化到新用户和新市场的潜力。
| 评论: | 13 页,6 张图 |
| 主题: | 人工智能(cs.AI) |
| 引用为: | arXiv:2610.41988 [cs.AI] |
| (或 arXiv:2610.41988v1 [cs.AI] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2610.41988 由 DataCite 颁发的 arXiv DOI(待注册) |
提交历史
来自:Ze Zhao [查看邮箱]
[v1]
2026 年 10 月 30 日星期五 16:35:43 UTC(1,967 KB)
来源:arXiv cs.AI · arxiv.org