论文评估AI研发自动化或引发智能爆炸

Alan Chan等作者发表论文，评估AI研发自动化可能引发智能爆炸的初步证据。论文认为，AI系统有望在几年内自动化大部分AI研发工作，甚至可能全部自动化。 作者指出，若智能爆炸发生，AI收益可能大幅提前，但也可能带来能力增速超出社会承受力、人类失去对超级智能系统的控制、国家与企业内部权力制衡被削弱等极端风险。 论文建议政策制定者尽快提高对AI研发自动化的可见度，并研究引导和约束智能爆炸的方式。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。