arXiv cs.MA· Ehud Shapiro·· 10 小时前AI 评分31
用草根契约约束 AI 风险：可问责 AI 智能体与数字溯源方案
Corralling AI Risks with Grassroots Contracts
AI 导读
针对 AI 控制全球平台、匿名 AI 智能体不可问责、匿名 AI 生成深度伪造三大风险，研究者提出“草根契约”（grassroots contracts）方案，并给出两个可运行的智能手机应用：一个用于带可问责 AI 智能体的社交图谱，一个用于带数字溯源的社交网络。该概念源自 Pierre-Joseph Proudhon 两百年前的设想，论文编号 arXiv:2611.06374。
正文 · AI 翻译
摘要：AI 的转折点是令人警惕的风险之源。数字平台尤其容易受到三大 AI 风险的影响，因为控制全球平台的人将控制权让渡给了 AI——对算法的控制、对成员的控制以及对内容的控制：（1）AI 控制着人类大多数所使用的全球社会与经济平台，导致人类大多数变得易受 AI 控制。（2）不负责任的 AI 代理以匿名方式在社会与经济数字平台上与人类并肩运作，可能伪装成人类，服务于未知的主人、追求未知的目标，在未知的约束下运作，既无问责也无罪责。（3）由匿名 AI 生成的无归属深度伪造内容，人们无法将其与真实内容区分开来，而其制作者则逃避问责与罪责。
在此，我们提出用草根契约来约束这些 AI 风险，这是皮埃尔-约瑟夫·蒲鲁东两百年前理念的数字化身。我们提出了针对具有可问责 AI 代理的社交图谱以及具有数字来源的社交网络的草根契约，并给出了实现这两者的可运行智能手机应用，展示它们如何约束这些重大 AI 风险：（1）AI 对全球平台的控制。（2）不负责任的 AI 代理。（3）无归属的深度伪造内容。
| 主题： | 人工智能（cs.AI）；计算与语言（cs.CL）；分布式、并行与集群计算（cs.DC）；多智能体系统（cs.MA） |
| 引用为： | arXiv:2611.06374 [cs.AI] |
| （或 arXiv:2611.06374v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2611.06374 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Ehud Shapiro [查看电子邮件]
[v1]
2026年11月4日星期三 11:34:17 UTC（1,931 KB）
来源：arXiv cs.MA · arxiv.org