您当前的位置: 首页 > 新闻

美国最大警用摄像头厂商对人脸识别说No,称其会带来严重偏见

2019-08-19 10:22:40

自家人断自家人后路?

全美最大的警用穿戴式摄像头的最大制造商Axon,已经正式宣布:

在技术改进之前,不会在其警用穿戴式摄像头中使用面部识别技术。

这家为47家美国最大的警察机构提供摄像设备及软件的公司,这一次竟然割爱,主动放弃了人脸识别这一在安防领域颇具潜力的技术。

Axon到的委员会给出的说法是,人脸识别技术不够可靠,还无法证明其使用的合理性。

到底怎么回事?

偏见+隐私

事件的导火索是一份长达28页的研究报告。

这是一份来自Axon内部人工智能道德委员会的报告,报告题目为First Report of the Axon AI & Policing Technology Ethics Board(译为《Axon AI &警务技术伦理委员会第一份报告》)。

报告表示,当前的面部识别技术,有“证据表明种族,种族,性别和其他身份群体的表现不平等且不可靠。”

报告进一步表示,与白人相比,这项技术对有色人种不那么友好,对女性比男性友好,对年轻人比老年人更友好。

Axon道德委员会成员、纽约大学法律学院Policing Project主任Barry Friedman表示,这项技术不够准确,表示在修复这些问题前,不会再考虑了。

即使可能需要很多年的时间。

除了技术本身的限制外,报告中还提到了人脸识别带来的隐私问题。

Axon在报告中表示:

技术的发展的速度远远快于立法机构和法院反应的速度。因此,我们认为,对于技术领导者来说,努力理解新技术的伦理、法律和社区含义至关重要,因为这些新技术太过新颖,无法被现有法律有效覆盖。

作为一家大型安防公司,Axon当然也想拥抱新兴的AI科技。

比如,美国多地警方的持有的AI执法记录仪,就可以分析摄像头捕捉的物体进行物体分类,对执法信息自动归档。

美国MuckRock的一篇博文显示,在今年年初,Axon开始向大规模在其设备中部署人工智能技术,Axon希望通过AI替代警察的文书和资料编辑等工作。

虽然Axon大力提倡AI,但是,对于人脸识别这项技术,他们显得甚是谨慎。

甚至于,还没有真正在其产品中部署这项技术,就已经宣布搁置了。

“解脱了”

这则消息让国外网友觉得大爽,网友突然兴奋了起来。

网友感慨,人脸识别带走了城市生活提供的最后一丝隐私:

那么现在,就是自由的感觉吧!

网友@ProfFerguson认为,Axon禁止人脸识别这件事代表着胜利,一是道德委员会的胜利,二是对于那些关注面部识别的人来说,这也算是个好

OpenAI政策方向的研究科学家@Miles_Brundage表示,看到Axon AI伦理委员会的第一份报告,感到非常兴奋,自己也是参与报告调研的一员。

他认为,可穿戴摄像头中的人脸识别技术目前还非常不成熟,预计还有很长的路要走。

有网友认为,Axon宣布暂时禁用也是为了把控自身风评,明知道技术不靠谱还去用,可能会产生坏的影响,因此谨慎行事。

有专家分析称,即使这个禁令禁止了人脸识别技术在警用摄像头中的应用,但若有人真想钻空子,也不能完全杜绝。

Axon发言人表示,执法官员可以下载第三方应用,比如亚马逊的Rekognition。但约翰杰伊刑事司法学院的副教授Piza却认为这样也不容易,还需要花钱额外购买另一项技术,最后操作的难度很大。

人脸识别禁令

一边是远高于人眼的识别效率,另一边却又陷入了隐私和偏见的泥潭,人脸识别的应用陷入了两难的境地。

对于美国来说,持保守观望状态的不止Axon。

上个月,史上首个人脸识别禁令出台,来自硅谷中心旧金山。旧金山监事会通过的禁令名为《停止秘密监察条例(Stop Secret Surveillance Ordinance )》显示,禁止旧金山的政府机构使用人脸识别技术,哪怕是需要探案抓人的警察也不行。

条例中说,以人脸识别为代表的监视技术总是被用在压迫某些种族、宗教、性取向不同的特殊群体,人脸识别技术对公民权利和自由的危害大大超过所带来的好处。

因此,条例认定旧金山的政府部门无论是直接使用人脸识别技术,还是靠人脸识别技术获得某些信息,都是违法行为。

也就是说,不能直接在公共场所装人脸识别摄像头,也不能偷偷地用人脸识别技术来自动匹配嫌犯。

相比之下,国内的人脸识别技术部署进展就快得多了。

前有热心歌神张学友的全国巡演中,人脸识别AI领取抓捕逃犯五连杀成就。

后有北大弑母案疑犯,逃亡三年后,被重庆机场最新配置的人脸识别系统成功匹配。

技术在进步,法规在完善。关于人脸识别技术的落地之旅,其实才刚刚开始。

—完—

AI社群 | 与优秀的人交流

小程序 | 全类别AI学习教程

喜欢就点「在看」吧 !

推荐阅读
图文聚焦