arXiv cs.AI· Stine Lyngs{\o} Beltoft, Jonas Vistrup, Peter Schneider-Kamp, Lukas Galke Poech·· 10 小时前AI 评分31
活宪法：主权基础模型的参与式对齐
Living constitutions: Participatory alignment for sovereign foundation models
AI 导读
针对 Constitutional AI 中"谁来制定宪法、谁决定纳入哪些规范"的难题，研究提出将宪法制定视为类似公民科学的持续参与式过程，并给出迭代、模块化、可辩护、立场化、正当性五项原则。宪法条款需标注为已定、争议中或未定，以记录而非消解持久分歧。基于智能体的建模显示，该流程在公民中 50% 为恶意行为者、协商机构中 75% 参与者怀有善意时仍保持稳健。
正文 · AI 翻译
摘要：在宪法式 AI 中，一份纯文本的“宪法”编码了价值观，并通过后训练被纳入模型。然而，创建这样一份宪法的过程面临重大挑战：由谁贡献、由谁决定纳入哪些规范，以及该过程必须在多大程度上是参与式或民主的？这些挑战可能令人束手无策。但我们认为，采取行动至关重要：如果没有一份经过深思熟虑的宪法，主权模型将面临失准的风险，或默认采用前沿模型提供方设定的规范。我们提出，应将宪法的制定视为一个不断演进、参与式的过程，类似于公民科学，通过迭代起草、测试和完善。因此，我们制定了五项理想原则：迭代性、模块化、可辩护性、立场性和正当性。我们进一步认为，这样的文件不仅必须随时间推移保持响应性，还必须对其所治理的人群保持响应性，并建议将条款标记为已确定、有争议或未充分确定，以便将持久的分歧记录在宪法中，而不是将其消解掉。在实证方面，我们通过基于主体的建模表明，所提出的维护活宪法（living constitutions）的过程在公民中有 50% 不良行为者的情况下仍具有稳健性——前提是协商机构中有 75% 的参与者怀有良好意图。这表明，所提出的过程能够容忍相当大比例的对抗性参与者。
| 主题： | 人工智能（cs.AI） |
| 引用为： | arXiv:2611.13402 [cs.AI] |
| （或 arXiv:2611.13402v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2611.13402 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Stine Beltoft [查看电子邮件]
[v1]
2026年11月10日星期二 00:32:24 UTC（848 KB）
来源：arXiv cs.AI · arxiv.org