研究提出递归自我改进AI的进化安全框架

Chang Gong等作者在 arXiv 论文中提出“进化安全”概念，用于研究递归自我改进（RSI）AI 的安全属性在持续自我改进中如何被保留、削弱或恢复。作者称，他们归纳出六种反复出现的进化风险表现，并建立覆盖五个领域的分类体系，刻画安全相关变化如何产生、持续并传播至后继系统。 研究进一步提出跨状态、更新、轨迹与谱系的发现与评估框架，并讨论修改控制、更新验证授权及可追溯与恢复的治理原则。上述框架与原则为论文提出的主张，尚未见实际评估结果。

AI 根据报道生成 · 51 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。