arXiv cs.AI· Mattias Br\"annstr\"om, Themis Dimitra Xanthopoulou, Lili Jiang·· 3 天前AI 评分20
面向角色感知 AI Act 评估的透明信息流建模
Transparent Information Flow Modeling for Role-Aware AI Act Assessment
AI 导读
研究探索用信息流方法论（IFM）开展欧盟 AI Act 合规评估，将算法、人工或混合决策系统表示为信息站点与转换通道构成的网络，从而结构化分析信息、决策与责任如何跨组织和技术边界流动。
正文 · AI 翻译
摘要：欧盟《人工智能法案》引入了一个用于治理高风险人工智能系统的结构化框架，强调透明度、风险管理和针对不同角色的问责制。然而，当前的评估实践往往依赖于单一的系统视角或彼此割裂的检查清单，限制了其捕捉现实部署中社会技术复杂性的能力。我们探索使用信息流方法（IFM）——一种基于建模的《人工智能法案》合规评估方法。IFM 将决策系统——无论是算法、人类还是混合系统——表示为信息站点和转换通道的网络，从而能够对信息、决策和责任如何跨越组织和技术边界流动进行结构化分析。我们将 IFM 应用于一个真实案例，涉及某公共部门组织使用的招聘支持工具，评估了提供方的系统和部署方的招聘流程。我们的结果表明，IFM 可以作为一个支架，连接基于组件的视角和整体视角，并说明技术系统如何嵌入社会技术情境之中。在此过程中，IFM 支持透明度、识别风险路径，并实现对预期用途与实际用途之间的一致性分析。我们认为，这种建模为有效、情境敏感的人工智能治理和问责提供了基础性工具——其能力超越了传统的基于检查清单的评估。
| 评论： | 19 页，3 幅图。发表于 CLEAR Workshop，ECAI 2025 |
| 主题： | 人工智能（cs.AI） |
| ACM 分类： | K.4.1；K.4.3；H.4.2 |
| 引用为： | arXiv:2610.16916 [cs.AI] |
| （或 arXiv:2610.16916v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.16916 arXiv 颁发的 DOI，通过 DataCite（待注册） |
提交历史
来自：Mattias Brännström [查看电子邮件]
[v1]
2026 年 10 月 12 日星期一 14:59:52 UTC（394 KB）
来源：arXiv cs.AI · arxiv.org