arXiv cs.CL· Alessio Brini·· 10 小时前AI 评分24
面向财报电话会议的时点编码器(Point-in-Time Encoders)
Point-in-Time Encoders for Earnings Calls
AI 导读
为消除回测中的前视偏差,研究者从 412,248 通财报电话会议中按 2010 至 2024 年逐年截止日期训练时点编码器,每个版本只读取截止日期及之前的文本。
正文 · AI 翻译
摘要:文本编码器将财报电话会议转化为向量,用于搜索、用于从检索段落中作答的语言模型,以及用于预测模型。实时检索器可以使用一次在所有可用文本上训练好的编码器,正如金融检索器那样,但回测需要一个没有读过每个向量日期之后所写文本的编码器。为解决这种前视偏差,我们从 412,248 通电话会议中,按照四种预训练方案训练不同年份版本,年度截止点从 2010 年到 2024 年,每个版本只读取日期在其截止点当天或之前的文本。然后,我们在电话会议自身的问题-答案对上对每个版本进行微调。我们仅用电话会议训练的版本,参数量为 33.8M,在每个测试季度中检索留出电话会议的答案都优于我们测试的通用检索器。它们的向量还将次日收益与基于过去收益和公司规模构建的预测之间的秩相关性提高了约一半。当每个版本延续前一个版本时,较晚的版本在较早季度上的检索效果优于当时可用的版本,而一个即时语言模型从较晚版本检索到的段落中作答,也继承了这一增益。我们各系列中的 2024 版本对盈利意外的预测也更好,尽管在没有任何版本读过的电话会议上,这一增益的区间包含零。它对收益的预测并没有更好,因此即时版本对检索最重要,对收益预测影响很小。
| 评论: | 10 页,3 幅图,7 张表。已被第三届 IEEE 金融大语言模型国际研讨会(IEEE BigData 2026)接收。代码:此 https URL |
| 主题: | 计算与语言(cs.CL);信息检索(cs.IR);统计金融(q-fin.ST) |
| ACM 分类: | H.3.3;I.2.7 |
| 引用为: | arXiv:2611.14325 [cs.CL] |
| (或 arXiv:2611.14325v1 [cs.CL] 为此版本) | |
| https://doi.org/10.48550/arXiv.2611.14325 由 DataCite 颁发的 arXiv DOI(待注册) |
提交历史
来自:Alessio Brini [查看电子邮件]
[v1]
2026 年 11 月 10 日星期二 16:49:15 UTC(102 KB)
来源:arXiv cs.CL · arxiv.org