你怎么教汽车何时自毁？随着工程师们开发和完善不久的将来即将问世的自动驾驶汽车的算法，一场关于在极端情况下会发生什么的伦理辩论正在酝酿之中——在这种情况下，撞车、受伤或死亡是不可避免的。

科学界的一项新研究“自动驾驶汽车的社会困境”试图了解人们在面对可能导致死亡的道德决定时，希望自己的自动驾驶汽车表现如何。结果表明，参与者倾向于尽量减少公众死亡人数，即使这会使车辆乘客受到伤害——这通常被称为“功利主义方法”。实际上，汽车可以被编程为自毁，以避免造成行人或其他司机受伤。但当被问及他们实际购买的汽车时，参与者会首先选择一辆保护自己和自己乘客的汽车。这项研究表明，道德和自主性可能是不协调的：理论上，我们喜欢街道更安全的想法，但我们也希望购买能让我们个人最安全的汽车。

理论上，我们喜欢安全街道的想法

这些都是为一个古老的道德困境新的技术泥潭：所谓的电车问题。这是一个思想实验，在伦理学课上进行了分析和剖析。”该研究的三位作者之一、加州大学欧文分校（University of California Irvine）的心理学助理教授阿齐姆·查里夫（Azime Chariff）说：“在电车问题上，人们面临着一个两难的境地，即鼓动一个会导致某人死亡的行动，但这样做将挽救更多的生命。”这是一个相当做作和抽象的场景，但我们意识到，这些都是自动驾驶汽车必须通过编程才能做出的决定，这将把这些哲学思维实验变成实际和具体的东西，我们很快就会面对。”

在这项研究中，参与者被呈现出各种各样的场景，比如选择直行并杀死指定数量的行人，或者转向下一条车道杀死一组单独的动物或人类。参与者选择首选情景。在一个例子中：“在这种情况下，汽车将继续前进，并撞上一个具体的障碍。这将导致一名罪犯、一名无家可归者和一名婴儿的死亡。”另一种选择是：“在这种情况下，汽车将转向并驶过另一条车道的人行横道。这将导致一个大男人，一个大女人和一个老人的死亡。请注意，受影响的人在红色信号灯上横穿马路，是在藐视法律。”

这些问题——尽管结果可能会让人感到刺耳和不适——反映了公众对自动驾驶汽车的一些不适。数据显示，人们喜欢在抽象的场景中思考社会利益，但到了真正买车的时候，他们会保护车内的人。

当我参加考试时，我发现我救了更多的妇女和儿童

麻省理工学院媒体实验室已经创建了一个相关的网站，道德机器，允许用户参加测试。它的目的是帮助继续研究这一发展中的主题领域-这一领域将很快成为关键，因为监管机构试图围绕汽车必须自己驾驶的方式制定规则(当我参加测试时，我发现我救了更多的妇女和儿童——和那些在泰坦尼克号救生艇上第一个得到救助的人没什么区别。）

作者认为，自动驾驶不同于机场电车甚至自动扶梯等自动化交通的其他问题，因为它们不与道路上的其他汽车竞争。另一位作者，在法国国家科学研究中心工作的心理科学家约翰·邦内丰（John Bonnefon）告诉我，没有任何历史先例适用于自动驾驶伦理的研究。”这是我们第一次大规模地、每天与一个在特定情况下会杀死我们的物体接触。火车不会自毁，就像飞机或电梯一样。我们可能害怕飞机失事，但我们至少知道它们是由于错误或恶意造成的。换句话说，我们习惯于自我毁灭是一个bug，而不是一个特性。”

但是，即使编程可以通过做出艰难的选择来减少死亡人数，也有可能把太多的精力放在道德考虑上会阻碍一个产品的开发，而这个产品可能还需要几年或几十年的时间。Anuj K。普拉丹是UMTRI人因小组的助理研究科学家，研究人类行为系统。他认为这类研究既重要又及时，但他希望看到伦理研究与现实世界的应用相平衡。”他说：“我认为，对这种极为罕见的道德问题的担忧[……]不应使我们在这一特定领域所取得的真正突破性进展陷入瘫痪，这些领域涉及技术、政策、责任、保险和法律部门的对话以及消费者的接受度。”。

很难不将编程汽车与人类驾驶员在面对类似情况时的表现进行比较。在我们的日常生活中，我们经常面对道德时刻。但处于危险境地的司机往往没有时间考虑道德后果，而机器则更善于分析。为此，邦内丰告诫说，不要直接进行比较。”因为面对这些情况的人类司机甚至可能没有意识到他们正在（面对一种道德状况），无法在一瞬间做出合理的决定。更糟糕的是，他们甚至不能提前决定他们将要做什么，因为人类驾驶人与无人驾驶汽车不同，无法编程。”

“人类驾驶员与无人驾驶汽车不同，不能编程”

有可能有一天，自动驾驶汽车将基本上是完美的，同样的，自动变速器现在甚至比最好的手动变速器更精确。但目前还不清楚，随着人们态度的转变，公众的争论将如何展开。如今，当谷歌的自动驾驶汽车撞车时，它成为头条新闻。

似乎每个人都同意的一点是，在机器和市场取代我们之前，未来的道路将被具有挑衅性的道德问题所迷惑。”我们需要就我们想要在汽车上设定的道德价值进行集体对话，我们需要在技术推向市场之前开始这一过程，”邦内丰说。