人工智能和机器人领域的领导人,包括埃隆·马斯克和谷歌DeepMind公司的穆斯塔法·苏莱曼,已经签署了一封信,呼吁联合国禁止致命的自主武器,也就是所谓的“杀人机器人”,该组织表示,这种技术的发展将带来“战争的第三次革命”,这可能等同于**和核武器的发明。
签署国写道:“一旦研制成功,[自主武器]将允许武装冲突以前所未有的规模、以人类无法理解的速度进行。”这些武器可以是恐怖武器,暴君和****用来对付无辜民众的武器,也可以是被黑客攻击以不受欢迎的方式行事的武器。”
这封信由来自26个国家的116家人工智能和机器人公司的创始人签署,并于本周末在国际人工智能联合会议(IJCAI)之前发表。这是为了配合联合国开始正式谈判,探讨这样一项禁令。123个成员国同意了谈判——部分原因是2015年发表了一份类似的**书——但由于成员国未支付费用,谈判被推迟。
签署这封信的专家说,在没有人类干预的情况下进行杀伤的自主武器是“道德上的错误”,它们的使用应该受到1983年《特定常规武器公约》(CCW)的控制。这项联合国协议规定了包括地雷、火箭弹和化学武器在内的多种武器的使用。
这封信的签署者说,迫切需要采取行动。”“这不是一个假设的情况,而是一个非常真实、非常紧迫的问题,需要立即采取行动,”Clearpath Robotics创始人瑞安•加里比(Ryan Gariepy)在一份新闻声明中说我们不应忽视这样一个事实,即与仍停留在科幻领域的人工智能的其他潜在表现形式不同,自主武器系统目前正处于发展的风口浪尖上,在全球不稳定的情况下,具有对无辜人民造成重大伤害的非常现实的潜力。”
一些国家目前正在研制致命的自主武器,包括美国、中国、俄罗斯和以色列。一些系统已经部署,比如韩国武器**商Dodaam systems建造的自动边界炮塔。炮塔配备有**,在技术上能够在没有人为干预的情况下识别和射击目标,尽管目前人类操作员必须授权任何致命射击。
自主武器的支持者说,这种技术可以减少战场伤亡,并且能够更准确地区分平民和战斗人员。但批评人士表示,这些态度只会导致此类武器的部署更加频繁,并以美国使用无人机打击为例,这使得美国得以在整个中东地区持续进行轰炸行动。
在这个时候,似乎没有一个国家会因为担心其他国家会超过它们而放慢发展此类武器的速度。英国《金融时报》援引美国国防部关于这一问题的一份报告,敦促增加对自主武器技术的投资,以便美国“继续领先于同样会利用其作战优势的对手”
这种军备竞赛的心态正是人工智能和机器人专家想要避免的情况。正如提交给联合国的**书所说:“我们没有太多时间采取行动。一旦这个潘多拉魔盒打开,就很难关闭。”
据路透社报道,埃隆·马斯克6日表示,如果特斯拉汽车被用来在中国从事间谍活动,该公司将被关闭。马斯克是在通过视频连线向中国发展论坛发表讲话时说这番话的,他谈到了有关中国出于安全考虑禁止其军方和**人员使用特...
教皇方济各要求全世界的信徒祈祷机器人和人工智能“永远为人类服务” 这条信息是教皇每月祈祷的意图之一——在YouTube上分享的定期信件,旨在帮助天主**通过关注特定的话题或事件来“深化他们的日常祈祷”。8...
...到,他相信BMI设备是通过补充我们的脑力来帮助人类跟上人工智能的,但现在,他的目标要简单得多:创造一种可以让人们用大脑控制电话或电脑的植入式设备。 马斯克最初在7月份宣布了8月28日的“进度更新”,现...
...3; 人权观察说,它的报告“失去人性:对杀人机器人的案件”是第一个非**组织的主要出版物。该集团还呼吁各国**执行一项国际条约,禁止发展和生产完全自主的武器,以免势头过猛。”“在***器人出现在国家武器...
...纽。但是有一件事让马斯克有点谨慎:世界上不断地希望人工智能变得更聪明和更有能力。马斯克昨天在CNBC上露面时解释说,他投资一家以上的AI研究公司,并不是希望最终获得回报,而是主要是为了在新进展上给自己最好的有...
...。”这位亿万富翁发明家喜欢让不可能成为可能,但他对人工智能(AI)深感恐惧。本周末,马斯克在推特上说,“我们需要对人工智能格外小心”,并补充说人工智能“可能比核武器更危险” 如果这还不够令人...
世界各地的学者和专家呼吁建立人工智能的研究人员“不仅要让人工智能更具能力,而且要把注意力放在最大限度地发挥人工智能的社会效益上”,由未来生命研究所起草,由斯蒂芬霍金和埃隆·马斯克等领先的科学和行业人士...
... “我认为我们不必担心自动驾驶汽车,因为这有点像是人工智能的一种狭隘形式,”马斯克今天在英伟达联合创始人兼首席执行官黄仁勋(Jen Hsun Huang)的年度开发者大会上说就像电梯一样。他们以前有电梯操作员,然后我们...
领先的人工智能研究人员警告说,“人工智能军备竞赛”可能会给人类带来灾难,并敦促联合国考虑禁止“进攻性自主武器”。这封***由未来生命研究所(FLI)发表,由斯蒂芬·霍金(Stephen Hawking)、埃隆·马斯克(Elon Musk)和...
...,马斯克和一组合作伙伴宣布成立OpenAI,这是一家致力于人工智能开源研究的非盈利企业。马斯克与Y Combinator首席执行官萨姆•奥尔特曼(Sam Altman)共同主持了该项目,许多硅谷实力雄厚的公司和团体也在为该项目提供资金,...