研究提出参与式“活宪法”对齐方法
热点事件持续更新
研究提出参与式“活宪法”对齐方法
1 篇报道1 个报道来源10 小时前更新
先了解这件事
AI 综述
Stine Lyngsø Beltoft 等作者提出一种参与式、迭代演进的“活宪法”制定流程，用于解决 Constitutional AI 中“谁来制定宪法、谁决定纳入哪些规范”的问题，并给出迭代、模块化、可辩护、立场化、正当性五项原则。 该流程要求宪法条款标注为已定、争议中或未定，以记录而非消解持久分歧。作者称，基于智能体的建模显示，在公民中 50% 为恶意行为者、协商机构中 75% 参与者怀有善意时，该流程仍保持稳健。
AI 根据报道生成 · 48 分钟前更新
最新进展11月11日 13:00
活宪法：主权基础模型的参与式对齐报道时间线
沿着报道，了解事件的不同侧面。
11月11日
- arXiv cs.AI活宪法：主权基础模型的参与式对齐
针对 Constitutional AI 中"谁来制定宪法、谁决定纳入哪些规范"的难题，研究提出将宪法制定视为类似公民科学的持续参与式过程，并给出迭代、模块化、可辩护、立场化、正当性五项原则。宪法条款需标注为已定、争议中或未定，以记录而非消解持久分歧。基于智能体的建模显示，该流程在公民中 50% 为恶意行为者、协商机构中 75% 参与者怀有善意时仍保持稳健。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。