關於致命機器人的爭論開始得太晚了
殺人機器人來了，他們很快就來了。無論是無人駕駛無人機還是大狗式步行機，無人駕駛飛行器已經在這裡，增加自主武器自然是下一步。現在的問題不是我們能不能，而是我們應該嗎？
今年4月，當《特定常規武器公約》（CCW）在日內瓦開會討論這一問題時，這個問題達到了頂點，會議結束後，一些研究人員和教授公開發表了意見。本週早些時候，政治學家邁克爾·霍洛維茨（Michael Horowitz）和保羅·沙雷（Paul Scharre）在《****》（New York Times）上敦促人們謹慎對待自主系統，而伯克利的電腦科學家斯圖爾特·拉塞爾（Stuart Russell）則在《自然》（Nature）上的一篇專欄文章中鼓勵人們進一步展開辯論。
這兩篇文章都沒有呼籲徹底禁止致命的自主武器系統（或法律），儘管奈米物理學家馬克格魯巴德（markgrubud）等其他人過去也曾這樣做過。取而代之的是，這些文章建議將致命機器人作為研究的受控領域，類似於核反應堆或化學武器。批評人士說，關鍵的一點是保持人類對制度的自主性——本質上，是一個開車的人。這個人可以被信任去做道德上的決定，如果這些決定出了問題，他就要承擔後果。更具體地說，他們熟悉《日內瓦公約》，如果違反該公約，他們可能會受到起訴。另一方面，一個致命的自主機器人將不受這種邏輯的約束。
“人類必須。。。直面戰爭的恐怖，而不是把它外包給機器。”
辯論的部分緊迫性在於，對許多人來說，致命機器似乎是合乎邏輯的下一步。幾十年來，計算機已經接管了人類的任務，剝奪了人類在簡單任務上的自主權，將其擴充套件到戰場可以輓救士兵的生命並賦予戰略優勢。但法律評論家認為，參與戰鬥的決定——從字面上說，殺人的決定——是不同的。如果沒有人類做出殺戮的決定，人們擔心的是殺戮會不加區別地發生，慢慢降低使用暴力的門檻。一旦死亡透過演算法發生了，保護生命的動機是什麼？”人類最終必須承擔道德責任，直面戰爭的恐怖，而不是把戰爭外包給機器，”夏爾和霍洛維茨告訴我們。
這是一個道德上很直觀的劃分界限的地方。殺戮的行為是強大的，授權機器或演算法來承擔它應該讓我們反胃。在談論法律時，這種不安會被簡化為一個明確的決定——部署還是不部署——我們完全可以控制答案。我們從一開始就給予人類自治權，並擔心將這種自治權擴充套件到機器。
但這場辯論中少了一些東西。***器人真的很麻煩，如果我們可以的話，我們應該阻止他們被創造和部署。讓人懷疑跨越這條線是否明智是件好事。但在這種情況下，我們錯過了我們已經走了多遠。在今天的戰爭中，人類的自主性已經受到損害，也許是無可救藥地受到損害，而真正可怕的機器並不是攜帶武器的機器。
日內瓦會議結束後幾天，白宮宣佈，今年早些時候，一架無人機在巴基斯坦誤殺了兩名人質。受害者是美國人沃倫·溫斯坦和義大利人喬瓦尼·洛波爾圖。他們的護照很有新聞價值，但他們遠不是第一批附帶傷亡者。調查新聞局估計，自2004年以來，巴基斯坦無人機空襲造成400至900名平民死亡，其中大約四分之一是兒童。
很難說是誰殺了溫斯坦、羅波爾圖或其他數百人，即使是在控制中心有人的情況下。奧巴馬總統強調了美國無人機打擊的精確性，這是他為無人機專案進行更大規模道德辯護的一部分，但無人機專案的許多結構性因素使得此類傷亡不可避免。美國****局經常使用SIM卡對目標進行地理定位，但單個目標可能有多達16張SIM卡，其中許多將被朋友和家人使用。如果沒有地面支援，很難判斷SIM目標攻擊是達到目標，還是僅僅是同行。”“他們可能是****，”一位前無人機操作員對截獲者說，描述了一次這樣的襲擊或者他們可能是與目標活動無關的家庭成員。”
很難稱之為自治
即使情報很好，**也很容易失手。很多目標都是和家人一起旅行的，一旦團隊進入一棟建築，就很難分辨出一個溫暖的身體和另一個溫暖的身體。因此，創傷後應激障礙在無人機飛行員中很常見，其中一位名叫布蘭登·布萊恩特（Brandon Bryant）的飛行員對1626起死亡事件負有責任，並描述自己在“神遊狀態”下履行職責
在某種意義上，這就是系統應該如何工作。如果你想讓一個人類演員沉浸在戰爭的恐怖中，他會像科比一樣，坐在一個被螢幕和命令包圍的軍事基地裡。他的命令來自其他地方，通常基於後設資料和演算法規則來呈現可能的目標。他不能離開他的職位，直到他的巡迴演出結束，然後他的位置將由其他人填補。這臺機器不用他就可以運轉了，而且也不乏可更換的零件。
很難稱之為自治。沙雷和霍洛維茨擔心把戰爭的恐怖外包給機器，但目前，這種恐怖外包給了像布萊恩特這樣的人，他們面對戰爭的現實，卻沒有任何改變的手段。我們想讓道德行為人駕駛這些武器，但我們沒有給他們騰出空間。實際上，扳機的人只是機器的另一部分。
這不是部署自動殺戮機的理由，但我們應該誠實地解釋為什麼它們看起來如此不可避免。我們的軍事系統已經是如此自動化，很容易看出致命的自主機器人將適合在哪裡，而這種自動化的大部分已經發生了沒有任何爭論。走了這麼遠，我們怎麼能停下來？
我們的武器塑造了我們，他們把我們塑造成了不可思議的東西。很難想象我們會如何回到過去，即使對於世界上那些未來的軍事哲學家來說也是如此。”幾乎所有加入《特定常規武器公約》的國家都同意需要“有意義的人類控制”來控制機器人武器的瞄準和交戰決策不幸的是，‘有意義’的含義仍有待確定。”
- 發表於 2021-04-30 07:28
- 閱讀 ( 50 )
- 分類：網際網路
你可能感興趣的文章
卡拉庫裡建造了一個機器人廚師，可以取代餐廳廚房
... DK One很可能會再次引發關於勞動力自動化以及它對入門級工作意味著什麼的爭論。儘管爭論仍然大同小異，但近幾個月來，圍繞爭論的世界發生了重大變化。 ...
關於人工智慧的5個常見誤區
... 一些關於人工智慧的爭論把它描繪成一種威脅而不是一種解決方案。希望在讀完這些神話之後，你能更好地理解人工智慧背後的真相。不要忘記，你所相信的也是你選擇如何使...
我們不反對這個reddit機器人把爭論變成一流的律師影片
...表。）顯然，它也支援r/aceplayerd，而且它也被要求戲劇化關於它的源材料的爭論（基於這個線索）。 有時Reddit的爭論會讓人感覺像是法庭上的戲劇，人們在技術細節、意圖和詞語定義上爭吵不休。現在，我們最喜歡的一些電子...
本週最佳科技寫作，8月12日
...的消防水龍帶中休息一下，看看我們每週從網路上收集的關於技術、文化、媒體和未來的重要文章？當然，坐在Instapaper佇列中你會感到內疚的還有一件事，但總比再次在Twitter列表上徒勞地拉好。 論交易 考慮到幾周...
hbo的“西部世界”電視節目將由安東尼·霍普金斯和致命的機器人主演
...定，並將主演安東尼霍普金斯和埃文雷切爾伍德在“一個關於人工意識的黎明和罪惡的未來黑暗奧德賽。” 西世界坐落在一個由三個不同區域組成的主題公園——中世紀世界、羅馬世界和同名的西世界——裡，居...
美國宇航局的好奇號探測器如何解決火星上甲烷的爭論
...來自生物來源。” 這一發現再次引發了長達數十年的關於火星上是否存在甲烷的爭論。早在20世紀60年代，美國宇航局的一艘宇宙飛船似乎就探測到了甲烷——但經過仔細檢查，它發現了錯誤的氣體。從那時起，研究人員利...
黑莓699美元的android遊戲太晚了
在iPhone問世之前銷售**的所有大公司中，每一家現在要麼轉向生產Android**，要麼退出市場。黑莓（BlackBerry）是剩下的最後一個堅持者，但現在它也有了一款即將推出的Android**，如果情況惡化，它也可能會完全退出硬體業務。...
allo是一款內建google的簡訊應用程式
...，每個人都在關註你要找的，並幫助你挑選合適的餐館。關於誰主演了你看過的那部電影的爭論可以立即得到明確的解決。 在這一點上，你可能有點毛骨悚然，讓我...
westworld的創作者解釋了他們的系列如何處理暴力影片遊戲
...銷售。 所以諾蘭和喬伊註意到西方世界不僅僅是一部關於新型人工智慧黎明的戲劇。它也是對現代娛樂和技術，特別是電子游戲，以及虛擬現實和現實主義追求的潛在陷阱的批判。這個節目的核心前提是一個問題：在一個沒...
網際網路的極右翼人士錯誤地與機器人爭論
...他們新增到大規模封鎖名單中。然而，@arguetron不僅僅是關於遊戲機的，它是關於有組織的網上各種仇恨。在2016年大選期間，這種偏見已經成為主流迷戀的主題，在社交媒體上出現的頻率和在政治**上出現的頻率一樣高。 “...
