# Google 的无人车都要收费了，但我们还没想好车祸「该」撞谁 - 作者：方嘉文 - 发布时间：2018-10-29 16:39 - 分类：公司 - 原文：https://www.ifanr.com/1119654 ![](https://s3.ifanr.com/wp-content/uploads/2018/10/cover-3.jpg) 上周，[Google CFO Ruth Porat 公布](https://m.sohu.com/a/271621177_115978/?pvid=000115_3w_a)，Google 旗下的无人车项目 Waymo 已经开始商业化，其投放于美国亚利桑那州的自动驾驶汽车将于今年第三季度开始向乘客收取费用。 Google 于 2016 年开始在美国亚利桑那州试点无人驾驶项目，并从 2017 年开始突出 Early Rider 项目，为当地居民服务。过去这一年多来，Waymo 已经向当地 400 多名参与者提供了免费出行服务。如今，Waymo 认为他们已经准备好进入商用收费阶段。 ![](https://s3.ifanr.com/wp-content/uploads/2018/10/1_QpU8HVINg_ZaMi1ec3lHTg.jpeg) ▲ Early Rider 项目参与者和 Waymo 的汽车，图片来自 [Medium](https://medium.com/waymo/waymos-early-rider-program-one-year-in-3a788f995a9c) 这预示着自动驾驶技术即将进入商业化时代，但我们真的准备好了吗？答案可不一定。最致命的问题就是，我们似乎至今都没想好，如果遇上车祸，自动驾驶汽车应该怎样处理？ 或者说，无人车发生车祸的时候，到底应该选择救谁？ 让哲学家争论了数十年未休的「有轨电车难题」，现在，变得更难了。 「有轨电车难题」最开始由英国哲学家菲力帕·芙特提出，具体情景是：假如你看到一辆刹车坏了的电车，快要撞上轨道上的五个人，但你身边有个按钮，一按下去就能让电车转到备用轨道，但这里也有一个人，那你是否应该牺牲在备用轨道上的一个人来救另外五个人？ ![](https://s3.ifanr.com/wp-content/uploads/2018/10/v2-cdc9359cfc78d9dbf8e490ffe42172ef_1200x500.jpg) ▲ 图片来自[知乎](https://zhuanlan.zhihu.com/p/28105147) 如果你觉得这似乎不难决定，那如果原来轨道和备用轨道上都只有一个人，但一边是老人家，而另一边是一位宝宝呢？ ### 4000 万个决定：不同文化，不同选择？ ![](https://s3.ifanr.com/wp-content/uploads/2018/10/shutterstock_172218053.jpg) ▲ 图片来自 [New York Public Radio](https://www.wnycstudios.org/story/race-and-friendship-role-segregation) 2014 年，MIT Media Lab 在网络上发起了一项名为 [Moral Machine 的实验](http://moralmachine.mit.edu/)，让世界各地的网友都能参与由「电车难题」衍生而来自动驾驶选择题。譬如：选人还是宠物？男人还是女人？年轻人还是老人社会地位高的人还是低的人？普通路人还是闯了红灯的人？ 在过去几年里，超过 233 个国家和地区的数百万名网友登录这个网站，联合做出了超过 4000 万个决定，让这个实验成为了其中一个最大规模的全球性道德选择类实验。 但在问题设计上，Moral Machine 采用了叠加式选择。譬如，让你选，自动驾驶汽车是要救车里的一名成年人和女孩，还是不换道，救下路上的一名老人家和宠物。通过一系列这种叠加式问题，[研究总结出不同国家网民的选择倾向](https://www.technologyreview.com/s/612341/a-global-ethics-study-aims-to-help-ai-solve-the-self-driving-trolley-problem/)。 ![](https://s3.ifanr.com/wp-content/uploads/2018/10/WechatIMG513.jpg) ▲ 图片来自 Moral Machine 中国和日本网民，更倾向于救老人家，而不是年轻人。其中，中国网民在这方面的倾向更是调查中最高的。[研究者猜测](https://www.technologyreview.com/s/612341/a-global-ethics-study-aims-to-help-ai-solve-the-self-driving-trolley-problem/)，这可能和文化中注重敬老有关。 ![](https://s3.ifanr.com/wp-content/uploads/2018/10/WechatIMG517.jpg) 更强调个人主义的国家，如法国、英国和美国，则更倾向以可救到的人命数量来支持抉择。对此，研究者猜测这和他们文化侧重宣扬个人每个人所存在的意义有关。 不过，研究人员强调，这些数据不是用来指导未来的立法和设计的，而是为进一步讨论提供基础和启发：我们应该将讨论转移到风险分析。我们应该去研究哪一方的风险更大，并研究其中歧视发生的情况。 ### 当算法负责做决定，责任又该谁来承担？ ![](https://s3.ifanr.com/wp-content/uploads/2018/10/1535759614304.jpg) ▲ 图片来自 [Axios](https://www.axios.com/self-driving-car-apple-california-3cfdaef7-d700-4bf8-a2f5-5cf33001a3d3.html) MIT 研究指出，当面临是救车里的乘客还是路上行人时，各国同样展示出不同的倾向。最偏向救路上行人的是日本的网民，尾随其后的是挪威和新加坡的网民。而最偏向救车上乘客的，分别是中国、爱沙尼亚和法国等参与者。 这将我们引导到对自动驾驶汽车责任的讨论。当我们将决策权放在算法上，谁该为这个抉择负责？ 斯德哥尔摩大学实践哲学[教授 Helen Frowe 认为](https://qz.com/536738/should-driverless-cars-kill-their-own-passengers-to-save-a-pedestrian/)，那些坐在自动驾驶汽车里的人对意外责任更大，所以汽车应该保护行人： > 我们有严格义务不去杀人。如果你决定去坐一辆自动驾驶汽车，那就是在制造风险。 不过，Frowe 教授认为，车里的儿童是无辜的。所以，当车里的儿童数量增加，汽车倾向保护乘客的趋势应逐渐增大。 显然，有许多人会反对 Frowe 教授的看法，这就是道德选择的问题，每个群体都不同观点和选择。 而麻省大学洛威尔分校的哲学教授 Nicholas Evans，就决定要穷尽每个选择的可能性。Evans 于 2017 年获得国家科学基金资助，[用三年时间去创造一套算法](https://qz.com/1204395/self-driving-cars-trolley-problem-philosophers-are-building-ethical-algorithms-to-solve-the-problem/)，展示在不同伦理理论下，自动驾驶汽车会怎样应对各种各样的「电车难题」变体。 Evans 自身并没有站队任何一种理论，他倒是希望能通过这个算法，来帮助消费者或是汽车生产商创造一个有足够信息的环境，并希望他们能做出明智的选择。 > 无论是针对医学领域还是更广泛的科学领域，一个好的实验的标志是，为参与者提供足够信息，并让他们决定是否源于参与这个实验。 > > 希望，我们的研究数据能提供足够信息，好让公众做出明智决定，并得以对政客们。 ### 真正在做自动驾驶的人怎么说？ ![](https://s3.ifanr.com/wp-content/uploads/2018/10/google-sd-car.jpg) ▲ 图片来自 [QZ](https://qz.com/1204395/self-driving-cars-trolley-problem-philosophers-are-building-ethical-algorithms-to-solve-the-problem/) 如果你觉得「电车难题」已经让人头痛不已，不好意思，我们得考虑的问题似乎还有更多。 例如，厂商是否可借自动驾驶汽车路线规划，让其可以经过广告主的商店？如果汽车被黑客入侵导致伤害，谁将承担责任？隐私问题又怎样？ 哲学教授 Patrick Lin 说，自动驾驶就像电力一样，我们对它将造成的影响难以预测： > 电力不只取代了蜡烛。电力驱动了许多事物的诞生，譬如家庭手工业和网络生活。Ben Franklin 没可能能预测到这些，没人能。我觉得机器人和人工智能也属于这个目录。 与此同时，那些[真正在塑造着自动驾驶系统的人，却有不同看法](https://www.wired.com/story/trolley-problem-teach-self-driving-car-engineers/)。 > 从工程角度来看，解决「电车难题」并不是我们日常工作重心，原因有二：1. 我们不确定正确的答案是什么，甚至有没有答案都不好说；2. 这样的事情发生的概率很小，去除了人类干预的无人驾驶理应更安全。 Karl Iagnemma 说道，他是 Aptiv Automated Mobility 的总裁兼自动驾驶汽车公司 nuTonomy 的联合创始人。在他看来，我们仍处于第一波系统建设： > 我们在全力研发安全且设计精良的系统。在第二波系统里，也许我们才能开始将驾驶偏好、文化和地域差别融入系统中，到时，或者系统会将这些道德问题加进去吧。 而[《纽约客》近期的一篇文章](https://www.newyorker.com/magazine/2018/10/22/did-uber-steal-googles-intellectual-property)也指出，前 Google 工程师 Anthony Levandowski 此前在旧金山测试自动驾驶汽车 Waymo 项目时，违规将汽车开到了高速公路上，并酿成了车祸。 让人感到意外的，Levandowski 在事后毫不关心车祸另一方司机的伤况，只是认为「这是无价的数据，是我们学习如何避免类似错误的机会」。 也许，这类讨论我们还是越早开始越好。 题图来自 [MIT Technology Review](https://www.technologyreview.com/s/612341/a-global-ethics-study-aims-to-help-ai-solve-the-self-driving-trolley-problem/)