arXiv cs.CL· Yiming Xu, Yuan Yuan, Vijay Viswanathan, Graham Neubig·· 12 小时前AI 评分31
ClusterFusion:嵌入引导与 LLM 适配的混合聚类框架
ClusterFusion: Hybrid Clustering with Embedding Guidance and LLM Adaptation
AI 导读
ClusterFusion 提出一种以 LLM 为聚类核心、轻量嵌入方法为引导的混合聚类框架,分嵌入引导子集划分、LLM 驱动主题摘要、LLM 主题分配三阶段。在三个公开基准和两个新构建的领域数据集上,该方法在标准任务上达到 SOTA,并在专业领域取得显著提升。团队已公开新数据集及全部基准结果。
正文 · AI 翻译
摘要:文本聚类是自然语言处理中的一项基础任务,然而传统的聚类算法配合预训练嵌入,在没有昂贵微调的情况下,往往难以应对特定领域的语境。大语言模型(LLM)提供了强大的上下文推理能力,但此前的工作主要将其用作辅助模块,以精炼嵌入或调整聚类边界。我们提出 ClusterFusion,这是一个混合框架,它反其道而行之,将 LLM 作为聚类核心,并由轻量级嵌入方法加以引导。该框架分三个阶段进行:嵌入引导的子集划分、LLM 驱动的主题摘要,以及基于 LLM 的主题分配。这一设计能够直接融入领域知识和用户偏好,充分发挥 LLM 的上下文适应能力。在三个公开基准和两个新的领域特定数据集上的实验表明,ClusterFusion 不仅在标准任务上达到了最先进的性能,而且在专业领域也带来了显著提升。为支持后续工作,我们发布了新构建的数据集以及所有基准上的结果。
| 学科: | 计算与语言(cs.CL) |
| 引用为: | arXiv:2512.04350 [cs.CL] |
| (或 arXiv:2512.04350v2 [cs.CL] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2512.04350 由 DataCite 颁发的 arXiv DOI |
提交历史
来自:Yiming Xu [查看邮箱]
[v1]
2025年12月4日 星期四 00:49:43 UTC(1,490 KB)
[v2]
2026年10月20日 星期二 21:20:15 UTC(1,399 KB)
来源:arXiv cs.CL · arxiv.org