arXiv cs.AI· Yiqu Yang, Qiaoyuan Zheng, Yang Tian, Yu Fan, Elliott Ash·· 11 小时前AI 评分31
TUPLE-Bench：评估与缓解类型化决策模型中的隐私-效用权衡
TUPLE-Bench: Evaluating and Mitigating Privacy-Utility Trade-offs in Typed Decision Models
AI 导读
研究者提出 TUPLE-Bench 基准，用成对合成案例评估类型化决策模型的隐私泄漏：在九个模型上，要求隐藏细粒度原因的指令失效，91.88%-99.93% 的响应通过直接选择或残余分数泄漏原因。
正文 · AI 翻译
摘要：类型化决策模型往往不只返回一个选定的类别。它们还会给出每个候选类别的概率，有时还会给出单独的置信度分数。这些字段为下游决策提供支持，但可能泄露超出接收方授权范围的信息。我们提出 TUPLE-Bench（类型化决策模型的效用与隐私泄露评估基准），这是一个由成对合成案例组成的基准，其中接收方可以获知粗粒度的操作类别，但无法获知其细粒度原因。在九个模型中，要求隐瞒原因的指令未能起到保护作用：91.88%-99.93% 的响应通过直接选择或残差分数泄露了原因。即使将原因从候选集中排除，完整输出仍能在留出案例上实现 62.85%-75.35% 的恢复率，而仅使用选定类别时为 51.04%-57.64%（50% 为随机水平）。在全部 27 项模型-任务比较中，完整输出还降低了平均下游成本。然而，置信度字段会增加泄露，却不能持续降低成本。我们进一步提出工作流约束的隐私量化（WCPQ），它在保持指定下游工作流的行为和成本的同时，降低了秘密恢复率。我们的发现凸显了逐字段、逐工作流审计决策接口的必要性。
| 评论： | 我们的公开网站：this https URL |
| 主题： | 密码学与安全（cs.CR）；人工智能（cs.AI） |
| 引用为： | arXiv:2610.23668 [cs.CR] |
| （或 arXiv:2610.23668v1 [cs.CR] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.23668 arXiv 颁发的 DOI 通过 DataCite（待注册） |
提交历史
来自：Yiqu Yang [查看邮箱]
[v1]
2026年10月16日星期五 16:00:57 UTC（625 KB）
来源：arXiv cs.AI · arxiv.org