arXiv cs.CL· Matthew Raffel, Lizhong Chen, Sai Munikoti, Sameera Horawalavithana·· 3 天前AI 评分22
TopicMerge：分治式主题建模新方法
TopicMerge: A Divide and Conquer Approach to Topic Modeling
AI 导读
TopicMerge 是一种多阶段主题建模流水线，先对文档语料过度切分为细粒度微簇并赋予初始语义标签，再由 LLM 依据局部邻域上下文迭代仲裁合并候选对，逐层构建更连贯的主题。在 Bills 和 Wiki 数据集上，该方法达到 SOTA 聚类性能，同时相比文档级方法减少超过 92% 的 LLM 调用。
正文 · AI 翻译
摘要：近期主题建模的进展分化为两条主要路径：高效的基于嵌入的方法，具备可扩展性，但在标准聚类指标上往往表现不佳；以及大语言模型（LLM）方法，能够达到最先进的聚类性能，但代价是高昂的计算开销和较差的可扩展性。本文提出了 TopicMerge，一种新颖的多阶段流水线，弥合了这两类方法，同时实现最先进的聚类性能和计算效率。TopicMerge 首先采用高效的聚类流水线，有意将文档语料库过度分割为大量细粒度、语义纯净的微簇，然后为其赋予初始语义标签。接着，它引入了一种新颖的迭代合并算法，其中 LLM 在局部邻域上下文的引导下，对候选对的合并进行仲裁。这些获批的合并随后被有选择地执行，并由 LLM 重新进行语义标注，从而分层构建更广泛、更连贯的主题。在 Bills 和 Wiki 数据集上的大量实验表明，TopicMerge 在实现最先进聚类性能的同时，与文档级方法相比，将所需的 LLM 调用减少了 92% 以上，提供了一种实用且可扩展的解决方案。
| 评论： | EMNLP 2026 Findings |
| 主题： | 计算与语言（cs.CL）；机器学习（cs.LG） |
| 引用为： | arXiv:2610.19323 [cs.CL] |
| （或 arXiv:2610.19323v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.19323 arXiv 颁发的 DOI 通过 DataCite（待注册） |
提交历史
来自：Lizhong Chen [查看邮箱]
[v1]
2026年10月14日星期三 00:01:35 UTC（5,227 KB）
来源：arXiv cs.CL · arxiv.org