arXiv cs.CL· Kohei Oda, Po-Min Chuang, Kiyoaki Shirai, Natthawut Kertkeidkachorn·· 11 小时前AI 评分20
基于层级问题构建可解释文本嵌入的方法
Interpretable Text Embeddings Based on Hierarchical Questions
AI 导读
研究者提出用层级化问题构建基于 QA 的文本嵌入:随着层级加深,问题更具体、数量更多,解读时用浅层对齐问题替换深层问题以减少人工检查量。该方法通过递归聚类、对比提示词和问题对齐构建问题层级,在通用任务上提升了可解释性并保持任务性能。实验还发现,问题数量有限时浅层问题比深层问题任务表现更好。
正文 · AI 翻译
摘要:基于问答的文本嵌入将文本表示为向量,该向量由对是/否问题的 1/0 答案组成。尽管这些嵌入为解释提供了详细信息并实现了高任务性能,但它们通常需要人工检查大量问题。此外,问题数量与适当的问题粒度级别之间的关系尚未得到充分研究。为应对这些挑战,我们提出了一种为文本嵌入构建分层问题的方法。随着层次加深,问题变得更加具体,其数量也随之增加。在解释过程中,我们通过用浅层对齐的问题替换深层问题,来减少人工需要检查的问题数量。问题层次通过递归聚类、对比提示和问题对齐来构建。在通用任务上的实验结果表明,我们的方法在保持任务性能的同时提高了可解释性。研究还发现,当仅有有限数量的问题可用时,即使问题数量相同,浅层问题往往比深层问题取得更高的任务性能。
| 学科: | 计算与语言(cs.CL) |
| 引用为: | arXiv:2611.06402 [cs.CL] |
| (或 arXiv:2611.06402v1 [cs.CL] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2611.06402 由 DataCite 颁发的 arXiv DOI(待注册) |
提交历史
来自:Kohei Oda [查看邮箱]
[v1]
2026年11月4日星期三 12:05:15 UTC(3,456 KB)
来源:arXiv cs.CL · arxiv.org