CALLIOPE：无需嵌入向量、支持差分隐私的 AI 使用洞察框架

CALLIOPE: Private Insights into AI Use, Without Embeddings

AI 导读

CALLIOPE 是一个自上而下发现大规模非结构化数据（如 LLM 对话）主题层级、并支持差分隐私（DP）的框架，整个流程直接调用 LLM 能力，不依赖向量嵌入聚类。实验显示其在 DP 设置下效用优于现有基于嵌入的方法，高隐私强度场景尤为明显。团队用传统聚类指标及新提出的效用指标评估了输出质量。

正文 · AI 翻译

作者：Edith Cohen、Vadym Doroshenko、Badih Ghazi、Charlie Harrison、Pritish Kamath、Alexander Knop、Ravi Kumar、Ethan Leeman、Pasin Manurangsi、Mikhail Pravilov、Adam Sealfon、Yurii Sushko、Marika Swanberg、Chiyuan Zhang

查看 PDF HTML（实验性）

摘要：我们提出 CALLIOPE，一个自顶向下的框架，用于在大型非结构化数据语料库（例如 LLM 对话）中发现主题层级结构，同时支持差分隐私（DP）。与最终依赖向量嵌入聚类的传统方法乃至近期 LLM 增强方法不同，我们的框架在整个流程中直接利用 LLM 的能力。实验表明，在 DP 设置下，尤其是高隐私机制下，该方法相比现有（基于嵌入的）方法具有更好的效用。我们使用多种传统研究的聚类指标，以及我们引入的一些新颖效用指标，评估了 CALLIOPE 输出的质量。

学科：	机器学习（cs.LG）；人工智能（cs.AI）；计算与语言（cs.CL）；密码学与安全（cs.CR）
引用为：	arXiv:2610.28797 [cs.LG]
	（或 arXiv:2610.28797v1 [cs.LG] 用于此版本）
	https://doi.org/10.48550/arXiv.2610.28797 由 DataCite 颁发的 arXiv DOI（待注册）

提交历史

来自：Ethan Leeman [查看电子邮件]
[v1] 2026年10月20日星期二 18:23:08 UTC（709 KB）

来源：arXiv cs.CL · arxiv.org