红十字国际委员会官员称 AI 正在放大战争的破坏

联合国本周召开会议，讨论的内容包括自主武器的威胁。

“这项技术的发展速度非常令人担忧，”红十字国际委员会（ICRC）法律战团队负责人洛朗·吉塞尔（Laurent Gisel）对404 Media表示。吉塞尔本周在纽约，就所有推动全球冲突的因素向联合国发表讲话。他准备的发言稿中包括关于非法武器贸易、核武器、地雷以及——当然——人工智能的陈述。

自主武器今年一直是联合国热议的话题。9月，联合国试图通过一项规范杀人性AI武器使用的条约。俄罗斯和美国的外交官将其削弱得形同虚设。

但联合国仍在推进。周二，这一国际治理机构宣布了一项新倡议，以应对该问题。但正如吉塞尔所说：“多边进程需要相当长的时间”，而且“我们已经看到了战场上的影响。”

AI已经在选择目标并杀人。吉塞尔表示，这项技术正在“放大破坏，放大违法行为，放大冲突造成的人道伤害。”

以色列使用由微软提供支持的AI在加沙选择目标。在乌克兰，由AI驱动的俄罗斯无人机正在决定要杀死哪些人。美国军方正将自己宣传为一支“AI优先”的作战力量。国防部长皮特·赫格塞斯（Pete Hegseth）最近宣布了“子午线计划”（Project Meridian），这是一项旨在引导未来AI驱动的自主武器的倡议。子午线计划的三位负责人是埃隆·马斯克、国防承包商帕尔默·拉基（Palmer Luckey）和纽特·金里奇（Newt Gingrich）。

对吉塞尔而言，AI最大的危险之一就是它的速度。这项技术的一个核心卖点是它能帮助指挥官更快地做出决策。但这也加快了犯错的速度。“目标以更高的速度和频率被生成，然后实际上被更快地打击，这让我们对保留的人类控制水平深感担忧，”他说。“人类本应始终留在决策回路中。”

人类并不总是留在回路中。以色列国防军告诉记者，他们没有彻底审查由“薰衣草”（Lavender）生成的击杀名单，该AI系统被用于在加沙选择目标。“在[平民世界]中众所周知的是……人类倾向于信任系统，”吉塞尔说。“当人类疲惫时、处于压力之下时、必须快速交付时，这种情况更为明显，而这恰恰是士兵所处的境况。所以所有这些都让我们对在武装冲突中保持对武力使用的控制深感担忧。”

AI的鼓吹者常常把AI宣传为“一键搞定”的按钮，一种让人们强行处理复杂任务并尽快了结的方式。但当硅谷的某个人在解析电子表格或逆向工程代码时，与他们在中东进行一场战争时，后果截然不同。

“这也是那些系统的开发者未必意识到的，因为其中一些系统是由远离战场的科技公司开发的，它们并非天生都是为战场用途而开发的，”吉塞尔说。

国际人道法是世界大国之间不断演进的法律协商，旨在限制战争的毁灭性影响。它并不完美，而像美国和俄罗斯这样拥有庞大军队的国家往往并不遵守它。吉塞尔所代表的红十字国际委员会，其存在的明确目的就是塑造这些规则和法律。有些法律很古老，远比人工智能古老得多，但根据吉塞尔的说法，人道法适用于“所有武器、作战手段和方法。昨天的、今天的，以及明天的。”

吉塞尔表示，除了将人道法写入人工智能的机会之外，还应该为这项新技术制定新的规则和法规。“不是要全部禁止它们，而是要禁止特定类别的自主武器系统，并对其他类别施加具体限制，”他说。

“……一旦精灵从瓶子里出来，要把它放回瓶子里就非常、非常困难了”

但他确实有红线。第一条是任何将人类从杀伤链中移除的人工智能支持系统。“从我们的角度来看，这需要具体的限制、护栏和约束，”他说。

“我们建议禁止的另一类自主武器系统是那些直接以人类为目标的系统，其目标特征就是人本身，而不是坦克、武器系统或其他典型军事目标，其原因基于伦理关切、人道关切和道德底线，”他补充道。

自主武器已经存在很长时间了。美国的一些军舰配备了加特林机炮，可以自动追踪并摧毁来袭目标。区别在于，这些武器追踪的是舰船和导弹，而不是人类。

根据吉塞尔的说法，以人类为目标的自主武器或负责选择目标的人工智能支持系统的一个问题在于它们不可预测。他说，禁止不可预测的武器应该是显而易见的事。“军事纪律关乎你的部队[…]实现指挥官的意图，”他说。“如果你有一种效果不可预测的武器，你怎么能实现指挥官的意图？”

但这在谈判中一直是一个症结。“我们本以为军事考量会是一致的。但实际上，这也遭遇了相当大的阻力。说来奇怪，”他说。他谈到了今年早些时候8月和9月的谈判。“在该小组主席的最后提案中，恰恰提到了所有这些问题：自主武器系统需要可靠、可解释、可理解和可预测。而所有这些都被一些国家删掉了。”

吉塞尔还反对在核指挥与控制中使用人工智能。1983年，苏联的预警系统报告称美国向该国发射了核武器。苏联中校斯坦尼斯拉夫·彼得罗夫断定计算机出了错，决定不向上级报告袭击。他是对的。

“各国将继续使用卫星系统，因此也会使用与这些卫星配套的算法，”他说。“但确保它完全处于人类控制之下，而且是真正有意义的人类控制，这一点如此重要。”

在联合国进行审议、红十字国际委员会努力应对如何监管这一切的同时，战争仍在继续，军事力量继续拥抱人工智能。“这就是为什么国际社会迫切需要就禁止什么、限制什么做出决定[…]一旦精灵从瓶子里出来，再想把它放回瓶子里就非常、非常困难了，”他说。

吉塞尔表示，世界需要立即行动。“否则，就将由技术来决定什么是可接受的，而那并不是我们想要生活的世界，对吧？”