纽约州议员 Alex Bores 呼吁美国国会今年立法禁止递归自我改进（RSI）

每一家 AI 公司都在试图完全自动化 AI 研究；让 AI 去构建下一代 AI。 这被称为递归自我改进（RSI）。 OpenAI 表示他们有望在 2028 年 3 月实现这一目标。 Anthropic 员工表示他们有望在 2027 年实现这一目标。 下面的 METR 报告表明他们很可能是对的。 鉴于当前技术，这是个坏主意。当前 AI 的任何错误或不对齐都可能在每一代中被放大。 在 AI 公司达到这一门槛之前，我们不会再有另一次选举。 国会应该禁止 RSI，如果可能的话就在今年。 这是一个出奇地一致的共识，以各种版本得到以下人士的支持： -Bernie Sanders -Steve Bannon -Ralph Nader -Glenn Beck -共和党和民主党总检察长 -举报人 Daniel Kokotajlo -图灵奖得主 Yoshua Bengio -Humans First -Open Markets Institute -Ezra Klein -Arvind Narayanan（普林斯顿大学计算机科学家，以主张“AI 是一种普通技术”而闻名） 具体机制可以讨论。禁令也不必是永久性的（两者见下文）。这远不是我们在 AI 方面唯一要做的事！但它是紧迫的。 国会必须禁止 RSI。