arXiv cs.AI· Mattias Br\"annstr\"om, Themis Dimitra Xanthopoulou, Lili Jiang·· 3 天前AI 评分20
把透明度视为可回答性：角色相关的信息流建模
Transparency as Answerability: Role-Dependent Information Flow Modeling
AI 导读
研究者提出把 AI 透明度重新定义为一种关系：系统对某利益相关者透明，取决于其合法问题能否从系统结构中获答，并用信息流网络形式化。该框架支持结构可回答性、跨组织边界的组合可回答性，以及给定利益相关者可访问子网络的角色相关可回答性三个维度。研究以某公共部门市政 AI 招聘工具的真实预集成评估为例，展示了如何在 Provider 与 Deployer 边界上形式化分析透明度问题。
正文 · AI 翻译
摘要：AI 支持决策系统的透明度被广泛要求，但定义不清。现有方法将透明度视为系统或组件的属性，从而产生典型失败：评估无法跨组织边界迁移，利益相关者的问题无法在现有分析框架内表述，组件层面的发现对系统层面行为毫无说明。我们提出将透明度视为一种关系：一个系统对某个利益相关者透明，其程度取决于该利益相关者的正当问题能否从其结构中回答。我们使用信息流网络对此进行形式化，其中透明度问题以网络结构来表达，可回答性即系统解决这些问题的条件。该框架支持三个维度的分析：仅从网络得出的结构可回答性、针对已部署系统跨组织边界的组合可回答性，以及给定利益相关者可访问子网络的角色相关可回答性。我们在一个公共部门市政当局对 AI 招聘工具的真实预集成评估中演示了该框架。该评估使用参与式设计和访谈来建模决策系统结构。我们展示了如何形式化地陈述和分析跨 Provider 与 Deployer 边界的结构性和角色相关透明度问题，其中 AI 系统与部署者的决策过程组合在一起。
| 评论： | 30 页，2 幅图，5 张表。正在 ACM Journal on Responsible Computing 修订中 |
| 主题： | 人工智能（cs.AI） |
| MSC 分类： | 68T27, 03B65 |
| ACM 分类： | K.4.1; K.4.3; H.4.2; F.4.1 |
| 引用为： | arXiv:2610.16887 [cs.AI] |
| （或 arXiv:2610.16887v1 [cs.AI] 为此版本） | |
| https://doi.org/10.48550/arXiv.2610.16887 arXiv 颁发的 DOI 通过 DataCite（待注册） |
提交历史
来自：Mattias Brännström [查看电子邮件]
[v1]
2026 年 10 月 12 日星期一 14:46:08 UTC（93 KB）
来源：arXiv cs.AI · arxiv.org