论文证明AI智能体守门规则无法完备
热点事件持续更新
论文证明AI智能体守门规则无法完备
1 篇报道1 个报道来源9 小时前更新
先了解这件事
AI 综述
Tomas Perez-Acle 发表论文，证明在每条规则都须由机器在有限时间内可核查的证据支撑的前提下，AI 智能体的“允许清单”与“禁止清单”两本规则手册无法同时完备。 论文给出的理由是：可核查证据只能确立有限记录所能判定之事，而“永不”与“最终”无法被有限记录判定。对禁止性规则而言，违规总可被观测捕获，但没有安全程序能被永久放行。
AI 根据报道生成 · 46 分钟前更新
最新进展11月11日 13:00
没有有限规则手册能认证所有安全程序：AI 智能体把关的不可能性定理报道时间线
沿着报道，了解事件的不同侧面。
11月11日
- arXiv cs.AI没有有限规则手册能认证所有安全程序：AI 智能体把关的不可能性定理
一项不可能性定理证明：若每条规则都须由机器在有限时间内可核查的证据支撑，则“允许清单”与“禁止清单”两本规则手册无法同时完备。可核查证据只能确立有限记录所能判定之事，而“永不”与“最终”永远无法被有限记录判定；对禁止性规则，违规总可被观测捕获，但没有安全程序能被永久放行。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。