Uber 自动驾驶致死车祸调查新发现:斑马线外的行人不是人?

公司

11-07 15:48

在 Uber 自动驾驶测试汽车撞死路人的 20 个月后,美国国家运输安全委员会(NTSB)公布了一个让人感到不安的发现 —— Uber 的自动驾驶系统「看」到了推着单车过马路的受害者,但由于当事人并不在斑马线上,系统无法识别出她是人。

在 NTSB 长达 400 页的调查报告中, 我们可了解事故发生的更详尽过程。

2018 年 3 月 18 日晚上,自动驾驶汽车在亚利桑那州坦佩市以 43.5 英里/小时(约 70 公里/小时)的速度行驶。49 岁的 Elaine Herzberg 正推着单车横过马路,她离最近的人行横道约 109 米。

▲ 图片来自 Pinterest

事故发生前 5.6 秒,自动驾驶系统首次「看」到 Herzberg。

出于设计缺陷,自动驾驶系统并没有被赋予识别人行横道以外的路人。于是,系统开始猜,她也许是「车辆」,然后依次将判断改为「其它」-「车辆」-「其它」-「单车」-「其它」,但最后还是将决策落在了「单车」上。

在自动驾驶系统「改变想法」的过程中,它每变一次「主意」,系统就得重新估算眼前物件的移动趋势。

事故发生前 1.2 秒,系统确认汽车将撞上 Herzberg,想绕开又不可行,于是系统决定,得刹车了。

这时,另一个被诟病的功能开始起作用 ——「行动抑制机制(action suppression)」。

当出现需刹车的情况,「行动抑制机制」会将紧急停车的动作延后 1 秒,以二次确认「风险本质」,规避误判。同时,这也是驾驶座上的安全员可直接刹车的时间,只是当时驾驶员正在看手机,并没有留意到眼前的行人。

事故发生前 0.2 秒,自动驾驶系统发出警告声,安全员接手方向盘。

在汽车撞上 Herzberg 后接近一秒之后,安全员才踩下刹车。

从很多个方面来看,Uber 的自动驾驶技术无法考虑人类在实际生活中的行为选择。

《连线》对此评论道。

此外,NTSB 指出,Uber 当时并没有为自动驾驶设立独立的安全部门,设计正式的安全规划、操作准则或是任命专门负责防止事故的管理者,唯有向全公司员工传递的价值,譬如「做对的事情(do the right thing)」。

Uber 表示,他们当时有安全规定和操作流程,只是没有正式的安全规划而已。

目前,NTSB 虽然描绘了自动驾驶的安全问题,但并没有直接指出车祸发生的原因。NTSB 将于 11 月 19 日在华盛顿举办会议,届时,调查员将发布车祸的完整报告并公布最后的调查结果,判定意外到底是谁/什么的责任,并为政府管理者和科技公司提供建议。

我们很重视 NTSB 对车祸的详尽调查,期待在月底 NTSB 会议后了解他们的建议。

Uber 在官方说明中回应。

车祸发生后,有报道指时任 CEO Dara Khosrowshahi 曾考虑取消自动驾驶项目,但最后还是没有这样做。

事实上,在事故发生后 9 个月,Uber 宣布重启自动驾驶路测

▲ 重新上路的 Uber 自动驾驶汽车在测试,图片来自 Mashable

Uber 保证在车上配备两位安全员,而且不会在晚上以及天气恶劣的时候进行测试。此外,Uber 也弃用了「行动抑制机制」,在新设置下,汽车会提早 4 秒开始刹车。

在自动驾驶已经成为科技公司、汽车公司甚至零售业(无人车配送)都不愿放过的研发方向时,Uber 的坚持也不会让意外。毕竟,自动驾驶未来是个千亿美元级别的市场。

▲ 图片来自 《彭博社》

但也正是在这样激烈的竞争环境下,《卫报》科技编辑 Alex Hern 描绘的情况才尤其让人担忧。

此前,我们曾讨论未来自动驾驶汽车也许会面临困扰了哲学家数十年的「有轨电车难题」—— 在车祸面前,自动驾驶系统是应该选择救车里的乘客,还是路上的行人?

在 Hern 看来,自动驾驶行业真正的困局是另一个:

自动驾驶的冲突从来都未曾像「有轨电车难题」那样。这个行业面对的哲学难题只有一个:

「如果你要做好安全测试,你的竞争对手也许会抢在你之前进入市场。拉下这一杠杆,把人命输入到系统里,你也许能赢。」

题图来自 picjumbo

登录,参与讨论前请先登录

评论在审核通过后将对所有人可见

正在加载中

用 iPhone 8 的我还是不时拿不稳手机。工作邮箱:fangjiawen@ifanr.com

本篇来自栏目

解锁订阅模式,获得更多专属优质内容