機器人能明辨是非嗎？

在艾薩克·阿西莫夫的短篇小說《奔跑》中，兩位水星科學家發現，他們正在耗盡人類基地的燃料。他們派了一個名叫斯皮迪的機器人去執行一項危險的任務，去收集更多的東西，但五個小時後，他們發現斯皮迪在兜圈子，背誦廢話。...

在艾薩克·阿西莫夫的短篇小說《奔跑》中，兩位水星科學家發現，他們正在耗盡人類基地的燃料。他們派了一個名叫斯皮迪的機器人去執行一項危險的任務，去收集更多的東西，但五個小時後，他們發現斯皮迪在兜圈子，背誦廢話。

事實證明，斯皮迪正面臨道德危機：他被要求服從人類的命令，但他也被程式設計為不會給自己造成傷害。”“它達到了一個平衡，”一位科學家觀察到第三條規則讓他後退，第二條規則讓他前進。”

隨著機器人進入現實世界，道德體系變得更加重要

阿西莫夫的故事發生在2015年，這有點為時過早。但是家庭輔助機器人還有幾年的時間，軍用機器人即將出現，自動駕駛汽車已經出現了。我們即將看到第一代機器人在現實世界中與人類並肩工作，他們將面臨道德衝突。不久，一輛自動駕駛汽車就會發現自己陷入了道德課堂上經常出現的“電車”假想情景中——是什麼也不做，讓5個人死，還是做點什麼，殺死一個人更好？

這個假設沒有正確的答案，即使有，許多機器人學家認為預測每個場景和規劃機器人應該做什麼是不切實際的。

塔夫茨大學（Tufts University）電腦科學教授馬蒂亞斯•舍茨（Matthias Scheutz）說：“要設計一個涵蓋所有可能情況的複雜的‘如果、那麼、否則’規則系統幾乎是不可能的。”這就是為什麼這是一個如此困難的問題。你不能只列出所有的情況和行動。”

在這種新方法中，機器人透過選擇而不是應用規則來推理

相反，Scheutz正試圖設計出一種機器人大腦，這種大腦能夠像人類一樣透過道德決定進行推理。他的團隊最近從海軍研究辦公室（ONR）獲得了750萬美元的資助，正計劃進行一項深入調查，分析人們在做出道德選擇時的想法。然後，研究人員將嘗試在機器人中模擬這種推理。

在這個為期五年的專案結束時，科學家們必須展示一個機器人做出道德決定的演示。一個例子是一個機器人醫護人員被命令向醫院運送緊急物資以拯救生命。在路上，它遇到了一個受重傷計程車兵。機器人應該中止任務，幫助士兵嗎？

對於Scheutz的專案來說，機器人做出的決定比它能夠做出道德決定並給出一個連貫的理由更重要——權衡相關因素，做出決定，併在事後解釋決定。”“我們看到的機器人越來越複雜，越來越複雜，越來越自主，”他說對我們來說開始做這件事很重要。我們絕對不希望未來的社會裡這些機器人對這些道德衝突不敏感。”

Scheutz的方法不是唯一的。喬治亞理工學院（Georgia Institute of Technology）著名倫理學家羅恩•阿金（Ron Arkin）也曾在軍方工作過，他寫下了可以說是機器人的第一個道德體系。他的“道德總督”是一套類似阿西莫夫的規則，每當機器人的行為有可能偏離某些限制時，就會進行幹預，旨在控制武器化機器人。

希望最終，機器人能做出比人類更好的道德決定

對於ONR撥款，Arkin和他的團隊提出了一種新的方法。Arkin的團隊希望研究嬰兒的道德發展，而不是像道德州長那樣使用基於規則的系統或像Scheutz那樣的“民間心理學”方法。這些經驗教訓將被整合到Soar架構中，Soar架構是一個流行的機器人認知系統，它既有解決問題的能力，也有總體目標。在失去了撥款後，阿金仍然希望繼續執行部分提案。不幸的是，沒有多少資金可用於機器人道德。

希望最終機器人能夠比人類做更多的道德計算，從而做出更好的選擇。例如，人類駕駛員沒有時間計算在瞬間碰撞中對人類造成的潛在傷害。

然而，在此之前還有另一個重大挑戰。為了進行這些計算，機器人必須從環境中收集大量資訊，比如有多少人在場，以及每個人在這種情況下扮演什麼角色。然而今天的機器人仍然有有限的感知能力。例如，很難設計出一種機器人來區分戰場上的盟友士兵和敵人，或者能夠立即評估災民的身體和精神狀況。

ONR設計道德推理系統的努力是否可行還不確定。結果可能會證明，機器人在根據廣泛的等級規則做決定時做得更好。在阿西莫夫的故事的結尾，兩位科學家透過引用機器人學的第一條也是最重要的定律，使斯皮迪擺脫了他的無限迴圈：永遠不要傷害人類，或者，透過不作為，讓人類受到傷害。一位科學家將自己暴露在致命的變化無常的太陽下，直到斯皮迪從恐懼中振作起來，前來救援。機器人是所有道歉，這似乎不公平-它是一個奴隸的程式設計，畢竟。正如阿金所說，“很難知道什麼是對的什麼是錯的。”