跳到正文
arXiv cs.AI· Seungho Lee, Changbin Lee·· 10 天前AI 评分24

智能体数据空间中的"作者身份风险":智能体应是治理对象而非规则作者

Subjects, Not Authors: The Authorship Hazard in Agentic Dataspaces

AI 导读

论文提出"作者身份风险"(authorship hazard)原则:智能体只能是治理平面的主体,绝不能成为其作者,其授权发布通道在构造上关闭。在论文运行协议上进行的 90 次预注册编辑(每次评估 344,512 个请求)中,仅重新分类字段的 6 次编辑全部改变授权并收窄义务,策略差异分类器全部通过;按字面解读,特权增量条件在 69 次有效策略文本编辑中通过 33 次。

正文 · AI 翻译

查看 PDF

摘要:数据空间连接器决定的是传输能否发生,而非所传输的值包含什么,这对有合约约束的应用可以接受,但对组合工具调用的 LLM 智能体则不行。关于生成治理产物的智能体的工作评估的是输出质量,而非谁可以授权某个产物供使用。已发布的策略才是决策点所执行的内容,因此发布是一个治理事件,而既是策略主体又是策略作者的智能体会写下约束自身的规范。我们将此称为作者身份风险,并陈述一条原则:智能体是治理平面的主体,绝不是其作者。其通往发布的授权通道在构造上就是关闭的;其影响通道,即起草供人类批准的内容,则成为一个执行问题。在对论文运行协议进行的 90 次预注册编辑中,每次都在 344,512 个请求上评估,其中仅重新分类某个字段的六次编辑全都改变了授权并收窄了一项义务,且未触及策略文本,而一个策略差异分类器通过了全部六次。按字面解读,特权增量条件还通过了 69 次有效策略文本编辑中的 33 次;若解读为涵盖任何放宽,则一次都通不过。将分类视为作者身份会使全部六次都进入审查;这所需的登记系统尚未建成。在执行边界处,受保护字段在提示中陈述义务的情况下于 105 次中的 105 次到达模型,而在编译后的工具调用约束下于 105 次中的 0 次到达,但命名字段之外的值在 7 次中的 7 次被暴露。按所测得的审查比例,一个集中审批池每 20 至 138 名参与者需要一名审批者。
评论: 16 页,3 幅图,13 张表
主题: 密码学与安全(cs.CR);人工智能(cs.AI);数据库(cs.DB);多智能体系统(cs.MA)
引用为: arXiv:2609.30614 [cs.CR]
  (或 arXiv:2609.30614v2 [cs.CR] 为此版本)
  https://doi.org/10.48550/arXiv.2609.30614

由 DataCite 颁发的 arXiv DOI

提交历史

来自:Seungho Lee [查看电子邮件]
[v1] 2026 年 9 月 24 日星期四 22:58:16 UTC(802 KB)
[v2] 2026 年 10 月 6 日星期二 11:43:54 UTC(774 KB)

来源:arXiv cs.AI · arxiv.org