跳到正文
arXiv cs.AI· Lena Schneider, Daniel Boos, Gudela Grote·· 10 小时前AI 评分26

ALIGN:面向高风险 AI 用例的利益相关方控制与问责对齐方法

Negotiating Control and Accountability among Stakeholders in High-Risk AI Use Cases: Development and Evaluation of the Method ALIGN

AI 导读

研究团队基于人因与 AI 治理文献、专家访谈及铁路高风险 AI 用例的参与式观察,开发出场景化方法 ALIGN,用于评估利益相关方的问责与控制是否对齐。该方法旨在提升对 socio-technical 系统中问责-控制错配及其负面后果的意识,并提供结构化评估与设计决策支持,以缓解 AI 风险。论文描述了 ALIGN 的迭代开发与评估过程,并讨论其如何在 AI 全生命周期中促进治理。

正文 · AI 翻译

查看 PDF

摘要:人工智能(AI)的特性严重限制了人类的控制。这为社会技术系统的设计带来了新的挑战,尤其是在安全关键领域,在这些领域中,对风险的控制以及对任何造成伤害的问责都至关重要。我们借鉴人因与 AI 治理文献、专家访谈以及对铁路领域一个复杂高风险 AI 用例的参与式观察,开发了 ALIGN,这是一种基于场景的方法,从三个方面支持 AI 开发与实施中的治理和利益相关者参与:提高对社会技术系统中潜在的问责-控制错位及其负面后果的认识,提供一种结构化方法来评估特定用例中利益相关者的问责与控制之间的一致性,并支持有效的设计决策以缓解 AI 风险。我们描述了 ALIGN 的迭代开发与评估过程,并讨论了该方法如何通过强调控制-问责一致性在整个 AI 生命周期中的相关性来促进 AI 治理。
主题: 人机交互(cs.HC);人工智能(cs.AI)
引用为: arXiv:2611.24609 [cs.HC]
  (或 arXiv:2611.24609v1 [cs.HC] 用于此版本)
  https://doi.org/10.48550/arXiv.2611.24609

由 DataCite 颁发的 arXiv DOI(待注册)

提交历史

来自:Lena Schneider [查看邮箱]
[v1] 2026年11月18日星期三 15:30:54 UTC(872 KB)

来源:arXiv cs.AI · arxiv.org