Science: 无人驾驶车辆的社会困境，牺牲乘客还是牺牲行人？

本文为译文，原文作者：Peter Dizikes

译文首发于唧唧堂，译者：唧唧堂研究人 ZHENJIN ZHOU

当提及无人驾驶汽车的安全问题时，我们总会面临一种窘境。这些自动驾驶汽车设定了一整套安全规则。 要创建一个和这套安全规则冲突的现实情境并不难，比如，我们假设一辆无人驾驶汽车不得不在撞倒行人和急转弯撞向别处危及车上乘客两个动作之间做出选择，这辆车应该被指示怎么做呢？

由麻省理工学院的教授合著完成的最新研究表明公众对这一情境观点不一。如果这种情况在现实道路上发生了，他们会采取极不一致的方法来应对自动驾驶汽车的安全问题。

通过在过去一年的一系列调查，研究人员发现，人们通常对安全伦理问题持实用主义态度：在极度危险的情况下，他们希望尽量减少人员伤亡。这就意味着，打个比方，为了避免撞上前面的10个行人，他们宁愿让一辆只乘坐了司机的汽车急转弯脱离路线撞向一边。同时，这项调查的被访者表示，他们不太愿意乘坐如此编程的无人驾驶车。

从根本上说，人们希望无人驾驶汽车（除了他们自己乘坐的汽车之外）尽可能是行人友好型的。

麻省理工学院媒体实验室的副教授，即本次研究的合著者Iyad Rahwan表示：“大多数人想要生活在一个汽车造成的伤亡最小化的世界。但每个人又都希望自己的车可以不惜一切代价保护他们自己。”

结果就形成了研究人员所谓的“社会困境”，即每个人为了一己之利而最终构成对其他人不安全的环境。

“如果每个人都这么做，我们的结局将会是一场悲剧……汽车也不会减少伤亡。”Rahwan 补充道。

或者，就像研究者在论文中写的那样，“当前似乎还没有简单的方法来设计一种算法，协调道德价值观和个人利益。”

论文《关于自动驾驶汽车的社会困境》近日被发表于Science杂志。作者是图卢兹经济学院的Jean-Francois Bonnefon，俄勒冈大学心理学助理教授Azim Shariff以及AT&T 职业生涯发展教授，麻省理工学院媒体实验室媒体艺术与科学系副教授Rahwan。

picture from 500px by ZIEMANN PhotoArt

调查结果

研究人员使用在线的土耳其机器人（Mechanical Turk）公众舆论工具，在2015年6月至11月期间进行了六次调查。

结果一致表明人们对自动驾驶汽车的道德问题持实用主义的态度，强调尽可能多得挽救生命。例如，76%的被访者认为在上述的情景下，牺牲一名乘客比牺牲10名行人更加道德。

但调查结果也显示了被访者缺乏热情购买或使用以牺牲自己保护行人的安全规则编程的无人驾驶汽车。调查中有个问题要求受访者对按照牺牲1名乘客保护10名行人的安全规则进行编程的无人驾驶汽车的道德性进行评分。当被访者考虑到自己有可能成为车上的那名驾驶员时，他们对这种无人驾驶汽车道德性的评分降低了三分之一。

同样地，人们都强烈反对政府这种以实用主义原则设计无人驾驶汽车的理念。在调查中，被访者称他们购买这样设计的汽车的可能性只有购买不受规则限制的以其他任何方式编程的汽车的可能性的三分之一。

“这是一项汽车制造商和监管者都应该牢记在心的挑战，”学者写道。此外，如果自动驾驶汽车确实比普通汽车更安全，那么对编程规则引起的两难局面的不安会“推迟更安全的技术的使用从而造成更多的人员伤亡。”

picture from 500px by Maciej Bledowski

实证主义

当然，自动驾驶汽车大规模投入使用以后的总体表现尚不清楚。目前，伦理学家们说这项调查为新兴的道德研究领域提供了有趣而新颖的数据。

“我认为作者将此形容为社会困境是绝对正确的，” 哈佛大学心理学教授Joshua Greene在为Science杂志写该研究的评论时说道，“社会困境的关键特征是个人利益和集体利益之间的紧张关系。” Greene补充说该研究的研究人员“清楚地展示了人们对于这一问题有着深深的矛盾心理”。

正如他们在论文中写的那样，研究人员承认这个问题的民意调查仍处在非常早期的阶段，这意味着当前任何调查结果“不能保证会一直成立”，因为无人驾驶汽车的发展前景正不断演变。

最后， Rahwan总结说：“我认为重要的是，我们不仅要进行理论上的探讨，还要进行基于实证的讨论。”

参考文献：

Jean-François Bonnefon, Azim Shariff, Iyad Rahwan. The social dilemma of autonomous vehicles. Science , 352(6293): 1573-1576, 2016. DOI: 10.1126/science.aaf2654

原文链接：

Driverless cars: Who gets protected?

Peter Dizikes

http://news.mit.edu/2016/driverless-cars-safety-issues-0623

唧唧堂研究人简介：ZHENJIN ZHOU

点击“原文阅读”，查看 ZHENJIN ZHOU 在唧唧堂所有论文推荐。