ICRC 官员警告 AI 正放大战争破坏，呼吁禁止部分自主武器

404 Media· Matthew Gault·2026-10-22 22:20· 1 小时前AI 评分60

AI 已在“放大战争的破坏”

AI 导读

红十字国际委员会法律战争团队负责人 Laurent Gisel 在联合国会议期间接受 404 Media 采访，称 AI 正以更高速度和频率生成并打击目标，放大战争破坏和人道伤害。

正文 · 原文

本周联合国召开会议，讨论的议题之一便是自主武器的威胁。

“这项技术的发展速度令人非常担忧，”红十字国际委员会（ICRC）法律战争团队负责人 Laurent Gisel 对 404 Media 表示。Gisel 本周在纽约向联合国发表讲话，谈及所有推动全球冲突的因素。他的发言稿内容包括关于非法武器贸易、核武器、地雷，当然还有 AI 的陈述。

自主武器今年一直是联合国上的热门议题。9 月，联合国试图通过一项条约来规范杀人 AI 武器的使用。俄罗斯和美国的外交官将其权力剥夺殆尽。 

但联合国仍在推进。周二，这一国际治理机构宣布了一项新倡议，以应对该问题。但正如 Gisel 所说：“多边进程需要相当长的时间”，而且“我们已经看到了战场上的影响。” 

AI 已经在选择目标并杀人。Gisel 表示，这项技术正在“放大破坏，放大违法行为，放大冲突造成的人道伤害。”

以色列使用由微软提供支持的 AI 来在加沙选择目标。在乌克兰，AI 驱动的俄罗斯无人机正在决定要杀哪些人。美国军方正将自己标榜为一支“AI 优先”的作战力量。国防部长 Pete Hegseth 最近宣布了 Meridian 项目，这是一项旨在引导未来 AI 驱动的自主武器的倡议。Meridian 的三位负责人是 Elon Musk、国防承包商 Palmer Luckey 和 Newt Gingrich。

对 Gisel 而言，AI 最大的危险之一在于它的速度。这项技术的一个核心卖点是它能帮助指挥官更快地做出决策。但这也加快了犯错的节奏。“目标以更高的速度和频率生成，然后实际上被更快地打击，这让我们对保留的人类控制水平深感担忧，”他说。“人类本应始终留在回路中。”

人类并不总是留在回路中。以色列国防军告诉记者，他们没有彻底审查 Lavender 生成的击杀名单，Lavender 是其在加沙用于选择目标的 AI 系统。“在[平民世界]中众所周知……人类倾向于信任系统，”Gisel 说。“当人类疲惫时、处于压力之下时、必须快速交付时，这种情况更为明显，而这当然正是士兵所处的境况。所以所有这些都让我们对在武装冲突中保持对武力使用的控制深感担忧。”

AI 的鼓吹者常把 AI 宣传为“一键搞定”，一种让人们强行处理复杂任务并尽快了结的方式。但当硅谷的某个人在解析电子表格或逆向工程代码时，与在中东进行战争时，后果截然不同。

Gisel说：“那些系统的开发者也不一定意识到这一点，因为其中一些系统是由距离战场非常遥远的技术公司开发的，它们并非天生就是为战场使用而设计的。”

国际人道法是世界大国之间不断演变的法律协商，旨在限制战争的毁灭性影响。它并不完美，像美国和俄罗斯这样拥有庞大军队的国家往往并不遵守它。Gisel所代表的红十字国际委员会，其存在的明确目的就是塑造这些规则和法律。有些法律很古老，远比人工智能古老，但根据Gisel的说法，人道法适用于“所有武器、作战手段和方法。昨天的、今天的，以及明天的。”

Gisel说，除了将人道法写入人工智能的机会之外，还应该为这项新技术制定新的规则和法规。他说：“不是要全部禁止它们，而是要禁止特定类别的自主武器系统，并对其他类别施加具体限制。”

“……一旦精灵从瓶子里出来，要把它放回瓶子里就非常、非常困难了”

但他确实有红线。第一条是任何将人类从杀伤链中移除的人工智能支持系统。他说：“从我们的角度来看，这需要具体的限制、护栏和约束。”

他补充说：“我们建议禁止的另一类自主武器系统是那些直接以人类为目标的系统，其目标特征就是人，而不是坦克、武器系统或其他典型军事目标，原因基于伦理关切、人道关切和道德底线。”

自主武器已经存在很长时间了。美国的一些军舰配备了加特林机枪，可以自动追踪并摧毁来袭目标。区别在于，这些武器追踪的是舰船和导弹，而不是人类。

根据Gisel的说法，以人类为目标的自主武器或负责选择目标的人工智能支持系统的一个问题是它们不可预测。他说，禁止不可预测的武器应该是显而易见的事。他说：“军事纪律关乎你的部队……执行指挥官的意图。如果你有一种效果不可预测的武器，你怎么能实现指挥官的意图？”

但这在谈判中一直是一个症结。他说：“我们本以为军事考量会是一致的。但实际上，这也遭遇了相当大的阻力。说来奇怪。”他谈到了今年早些时候8月和9月的谈判。“该小组主席在上一份提案中恰恰提到了所有这些问题：自主武器系统需要可靠、可解释、可理解和可预测。而所有这些都被一些国家删除了。”

Gisel也反对在核指挥与控制中使用人工智能。1983年，苏联的预警系统报告称美国向该国发射了一枚核武器。苏联中校斯坦尼斯拉夫·彼得罗夫判定计算机出错了，决定不向上级报告这次袭击。他是对的。

“各国将继续使用卫星系统，因此也会使用与这些卫星配套的算法，”他说。“但确保它完全处于人类控制之下、处于真正有意义的人类控制之下，这一点非常重要。”

在联合国进行审议、红十字国际委员会努力应对如何监管这一切的同时，战争仍在继续，军队仍在继续拥抱人工智能。“这就是为什么国际社会迫切需要就禁止什么、限制什么做出决定[…]一旦妖怪从瓶子里出来，再想把它放回瓶子里就非常、非常困难了，”他说。

吉塞尔说，世界需要立即行动。“否则，就将由技术来决定什么是可接受的，而那并不是我们想要生活的世界，对吧？”

来源：404 Media · 404media.co