自动驾驶有望再获大笔注资,但AI系统识别如何实现“肤色公平”还是个问题

2019年03月14日 21:29 A
换句话说,一个人是否能被自动驾驶视觉系统成功检测为人类进而避免死亡,依赖于各个自动驾驶公司在编写函数时对公平这个伦理问题给予特别关注。

资料图:2016年9月22日,优步公司的无人驾驶福特车型亮相匹兹堡。图片来源:视觉中国

记者 | 刘芳

2019年开春,优步公司(Uber)好消息不断。

当地时间3月5日,亚利桑那州检方决定不对去年优步自动驾驶致死事件进行起诉。《华尔街日报》13日批露,由软银领衔的财团正在与优步进行后期谈判,或向其自动驾驶部门投资至少10亿美元。至此,这家估值高达1200亿美元的初创公司向上市的梦想又近了一步。

知情人士说,根据正在讨论的条款,软银的愿景基金(Vision Fund)和包括一家匿名汽车制造商在内的其他投资者将以50至100亿美元的估值收购该部门的少数股权。如果交易成真将会在下个月公布。

当地时间2018年11月5日,软银公司CEO孙正义在东京出席新闻发布会。图片来源:视觉中国

对优步而言,这一交易将为这家雄心勃勃、成本高昂的企业提供亟需的现金。《华尔街日报》称,这将减轻优步未来的融资义务,同时使其能够保持其对该部门的控制。2017年,优步在自动驾驶开发上花费了大约7.5亿美元,在2018年有所削减。

另一方面,引入汽车公司作为投资者将帮助优步完善自动驾驶出租车所需的技术。这是一个竞争日益激烈的领域。据悉,谷歌母公司Alphabet旗下的Waymo和通用汽车公司旗下的GM Cruise都已经对自动驾驶汽车进行了大量投资。而软银庞大的愿景基金在投资22亿美元后,持有通用汽车合资公司近20%的股份。

但这一年来,优步的自动驾驶之路并不是那么一帆风顺。

2018年3月18日,优步测试的沃尔沃SUV以每小时40英里的速度撞向了49岁的赫茨伯格(Elaine Herzberg)。当时她正推着自行车穿过街道。

2018年3月18日亚利桑那州Tempe市优步自动驾驶车祸现场。

《纽约时报》报道,这辆沃尔沃SUV当时处于自动驾驶模式,而在事发时优步配备的安全司机正在看《美国好声音》(The Voice)。

美国国家交通安全委员会(National Transportation Safety Board)于2018年5月的初步报告显示,优步的计算机系统在碰撞前6秒已经发现了赫茨伯格。计算机先是将赫茨伯格归类为无法辨识的物体,然后是另一种车辆,最后是一辆自行车。

事实上,这款沃尔沃SUV配备了优步本身的传感技术和车辆自带的紧急刹车系统。但报告称,优步把刹车系统给禁止了,目的是“减少车辆潜在的不稳定性” 。换句话说,这是一场本可避免的悲剧。

事故后优步一度关闭了亚利桑那州的自动驾驶汽车业务,并在旧金山湾区、匹兹堡和多伦多的道路上停止了自动驾驶汽车运营。去年年底,优步重新启动自动驾驶业务。

美国国家交通安全委员会工作人员在检查车祸中的自动驾驶车辆

2019年3月5日,审查此案的亚瓦帕伊县检察官办公室(The Yavapai County Attorney's Office)表示,“没有理由认为优步公司负有刑事责任。”

虽然优步暂时免去了法律纠纷的麻烦,但事故频发的自动驾驶到底能否安全上路始终是研究人员重点关切的问题。其中最关键的,就是自动驾驶系统到底是否能够准确识别所有人类,进而避免悲剧发生。然而,最近一项由乔治亚理工大学(Georgia Tech)完成的研究显示,结果不容乐观。

3月13日,《卫报》报道了这项对计算机视觉模型行人检测功能的分析报告。研究人员发现,目前已经在应用的AI系统在识别肤色较浅的行人方面表现更好。换句话说,肤色偏黑的人不能被正确识别为行人的风险更高,安全系数更低。具体来说,白人比黑人被识别为行人的可能性高10%。研究人员将自动驾驶视觉模型的这一特性称为预测性不平等(predictive inequality)。

乔治亚理工大学研究人员所做的自动驾驶测试。

在分析报告中,研究人员采用了Fitzpatrick皮肤类型量表(Fitzpatrick Skin Type Scale)。基于一个人皮肤色素沉着情况、被晒伤的倾向和皮肤、眼睛、头发的颜色,Fitzpatrick皮肤类型量表把人的肤色分为了六个档位。从1-6分别由浅到深。

在测试了目前多个视觉模型之后研究人员发现,AI在预测和识别不同肤色人群时有明显的量化差异,且这种差异并非由行人被其他人遮挡或时间(不同照明条件)导致。事实上在研究人员去掉了遮挡目标行人的其他人以后,视觉系统辨认的偏差反而更大了。

Fitzpatrick皮肤类型量表。图片来源:维基百科

最终研究人员认为,是损失函数(loss function)造成了自动驾驶视觉系统的预测偏差。所谓损失函数,就是在决策理论、机器学习中表示与某事件相关的“成本”函数。

研究人员表示,小心地修改一些(成本)权重可以改善视觉系统在检测深色肤色行人时的表现,并且也不影响系统检测浅色肤色行人的准确度。换句话说,一个人是否能成功被自动驾驶视觉系统检测为人类进而避免死亡,依赖于各个自动驾驶公司在编写函数时对公平这个伦理问题给予特别关注。

《卫报》认为,如果说谷歌图像曾将黑人辨识成大猩猩只是说明机器学习的局限性的话,那自动驾驶大卡车辨别肤色较深的人类有困难就真的不是一个好消息了。虽然目前大多数现有的自动驾驶汽车配备多种不依赖可见光的传感器——例如特斯拉自动驾驶汽车的前部安装了雷达,而Waymo则使用了精度极高的激光系统——但激烈的市场竞争和巨大的成本压力正使这些自动驾驶公司更加依赖视觉传感器。

目前,自动驾驶市场商机无限,但这种商机是建立在自动驾驶比人类驾驶更加安全的基础上的。更加重要的是,它应该使所有人都更安全,而不是使某些人承受更高的风险。

 

 

来源:界面新闻

广告等商务合作,请点击这里

未经正式授权严禁转载本文,侵权必究。

展开全文
打开界面新闻,查看更多专业报道

点赞(19)

界面新闻

主页

界面新闻
打开界面新闻,查看更多专业报道

全部评论(6)

打开界面新闻,查看全部评论

界面新闻

只服务于独立思考的人群

打开APP