接替佩洛西席位的 Scott Wiener 准备推动 AI 监管

作为加州州参议员，斯科特·维纳曾起草旨在遏制先进AI风险的立法。如今，在赢下接替前众议院议长南希·佩洛西空出的旧金山席位的激烈国会竞选后，他可能在制定联邦AI政策中发挥关键作用。

我在周五与维纳交谈，就在他被宣布获胜仅几个小时后。但他已经在思考AI风险了。前一天，AI非营利组织METR发布了一份报告，该报告被广泛解读为Anthropic已实现递归自我改进的证据——递归自我改进是一种现象，即AI对自身进步做出有意义的贡献，AI进展可能失控。

“这非常令人担忧，”维纳说，并引用该报告作为我们监管AI的时间正迅速耗尽的证据。“我曾希望国会能在今年[结束]之前采取果断行动，”他说。“但这似乎并未发生。”

近年来，维纳越来越关注AI，并且将AI安全运动的许多担忧视为己任：例如，在我们20分钟的交谈中，他用了六次“递归自我改进”这个说法。“我们需要放慢这件事，”他说。“因为它进展非常快，我们可能会在不知不觉中陷入灾难。”

维纳已经对AI政策产生了真正的影响。他在2024年起草的SB 1047法案，本将成为该国首部真正的前沿AI立法，但被加州州长加文·纽森否决；随后他提出了SB 53，这是一项更为温和的法案，纽森签署了它。这两项法案都启发了联邦立法提案。

维纳的国会竞选从Public First Action获得了超过300万美元，这是一家支持AI监管的非营利组织，从Anthropic获得了大量资金。这笔捐款导致对手批评他与AI行业关系过于密切，但维纳表示这完全不是事实。

“Public First支持我，是因为我是全国第一位提出AI监管的立法者，也是第一位通过并实施它的人，”他在我们采访后的一条消息中写道。“因[Public First的]支持而对我发起的攻击令人震惊地愤世嫉俗——实际上是在攻击一位真正在大型科技公司反对下监管了AI的候选人，并虚假声称该候选人在某种程度上与大型科技公司过于密切。”

维纳表示，如果国会成立人工智能特别委员会——民主党人自9月以来一直在讨论此事——他会渴望任职。他对国会中流传的许多政策想法充满热情。“我认为拥有一个强大、有权力、灵活的联邦监管机构非常重要，”他说，并指出来自加州的民主党同僚罗·卡纳众议员已提出立法，以建立这样的监管机构。

他还强调了举报人保护、测试和审计要求以及终止开关要求的重要性，并希望看到国会利用其监督权力追究AI实验室的责任。“这关乎人类的未来，我们希望确保公众有发言权，并确保公众了解正在发生的事情，”他说。

作为一名长期担任州议员的人，他反对联邦对州级人工智能法律进行广泛优先适用，而一些拟议的联邦立法正要求这样做。他指出：“正如布兰代斯所说，各州是实验室。你希望各州能够继续以国会有时不具备的灵活方式行事。”

维纳表示，最重要的是，他希望国会通过有真正约束力的政策。他说：“至关重要的是，当国会采取行动时，我们要以真正有意义、能够应对当下形势的方式来做。”这意味着要认真对待人工智能灾难的可能性，而他讨论这一问题时使用的措辞正是人工智能安全专家通常采用的那类语言。他告诉我：“我们正处于一个非常危险的时刻，存在失去对人工智能控制的风险。我们需要应对递归式自我改进。一旦进入那个领域，那确实可能成为彻底失去控制的祸根。”

在对抗灾难性人工智能风险的斗争中，他会有一些盟友。例如，参议员伯尼·桑德斯已会见过人工智能安全运动中许多最具影响力的人物，并多次谈到人工智能与生存风险。但维纳那种来自湾区、深受AGI理念影响的视角，与全国范围内以反对数据中心为基调的人工智能情绪之间，仍存在很大差距。周二选民批准了41项反数据中心 ballot measures 中的40项，这一事实对维纳和其他支持人工智能监管的人来说似乎是个好兆头，但维纳表示，他认为这场运动与地方关切的联系远大于与人工智能风险等更大问题的联系。

他说：“真正反对人工智能发展方向的人——这是一个他们确实能有所作为的领域。但数据中心的反抗——在我看来，更多是因为人们对自己社区可能出现这样的东西感到不满，所有影响都靠近人们的住宅，推高电费并消耗水资源。据我所知，对大多数人来说，我认为这才是更大的问题。”

维纳形容自己对于国会遏制人工智能的能力只是“谨慎乐观”，鉴于国会在监管科技行业方面的糟糕记录。他还担心能否让立法在唐纳德·特朗普总统那里获得通过——特朗普在9月曾将人们对灾难性人工智能风险的担忧称为“骗局”，并表现出明显不愿与中国合作的态度，而维纳认为这种合作对于防止人工智能最严重后果至关重要。

但他表示，特朗普的不可预测性提供了一定程度的希望，尽管这是一种充满风险的希望。维纳说：“到目前为止，我们看到了一些有问题的事情，但还不是彻底的灾难。我希望不需要一场灾难来促使总统采取行动。而且我希望，如果确实需要那样——正如我所说，我希望不需要——但如果确实需要，我希望它尽可能小。”