人工智能和机器人领域的领导人，包括埃隆·马斯克和谷歌DeepMind公司的穆斯塔法·苏莱曼，已经签署了一封信，呼吁联合国禁止致命的自主武器，也就是所谓的“杀人机器人”，该组织表示，这种技术的发展将带来“战争的第三次革命”，这可能等同于**和核武器的发明。

签署国写道：“一旦研制成功，[自主武器]将允许武装冲突以前所未有的规模、以人类无法理解的速度进行。”这些武器可以是恐怖武器，暴君和****用来对付无辜民众的武器，也可以是被黑客攻击以不受欢迎的方式行事的武器。”

这封信由来自26个国家的116家人工智能和机器人公司的创始人签署，并于本周末在国际人工智能联合会议（IJCAI）之前发表。这是为了配合联合国开始正式谈判，探讨这样一项禁令。123个成员国同意了谈判——部分原因是2015年发表了一份类似的**书——但由于成员国未支付费用，谈判被推迟。

签署这封信的专家说，在没有人类干预的情况下进行杀伤的自主武器是“道德上的错误”，它们的使用应该受到1983年《特定常规武器公约》（CCW）的控制。这项联合国协议规定了包括地雷、火箭弹和化学武器在内的多种武器的使用。

这封信的签署者说，迫切需要采取行动。”“这不是一个假设的情况，而是一个非常真实、非常紧迫的问题，需要立即采取行动，”Clearpath Robotics创始人瑞安•加里比（Ryan Gariepy）在一份新闻声明中说我们不应忽视这样一个事实，即与仍停留在科幻领域的人工智能的其他潜在表现形式不同，自主武器系统目前正处于发展的风口浪尖上，在全球不稳定的情况下，具有对无辜人民造成重大伤害的非常现实的潜力。”

一些国家目前正在研制致命的自主武器，包括美国、中国、俄罗斯和以色列。一些系统已经部署，比如韩国武器**商Dodaam systems建造的自动边界炮塔。炮塔配备有**，在技术上能够在没有人为干预的情况下识别和射击目标，尽管目前人类操作员必须授权任何致命射击。

自主武器的支持者说，这种技术可以减少战场伤亡，并且能够更准确地区分平民和战斗人员。但批评人士表示，这些态度只会导致此类武器的部署更加频繁，并以美国使用无人机打击为例，这使得美国得以在整个中东地区持续进行轰炸行动。

在这个时候，似乎没有一个国家会因为担心其他国家会超过它们而放慢发展此类武器的速度。英国《金融时报》援引美国国防部关于这一问题的一份报告，敦促增加对自主武器技术的投资，以便美国“继续领先于同样会利用其作战优势的对手”

这种军备竞赛的心态正是人工智能和机器人专家想要避免的情况。正如提交给联合国的**书所说：“我们没有太多时间采取行动。一旦这个潘多拉魔盒打开，就很难关闭。”