一篇论文使亚马逊、微软和IBM暂停面部识别项目

智能计算 时间:2020-07-12来源:读芯术

2018年2月,布拉姆维尼和蒂姆尼特·格布鲁发表了一篇论文,一经发表就在学术界和媒体中引起了广泛反响,而不久前亚马逊决定对警方使用其面部识别技术实行一年禁令,更是验证了该论文的预见性,新一轮热议就此展开。

该论文名为“性别阴影”,作者通过严谨的数据分析表明,像微软和IBM这样的大型公司在人工智能研究和开发项目上投资了数十亿元,但以人工智能为基础的面部识别技术在女性和肤色较深的人身上却表现得差强人意。

布拉姆维尼的研究得到了美国公民自由联盟的认可,他们通过亚马逊的Rekognition系统对国会议员进行面部识别,结果有28名议员被错误匹配成了犯罪者的照片。结论显而易见:如果国会议员可能被面部识别系统误认,那么他们的选民也有同样的可能。


布拉姆维尼和伊尼卢瓦·德博拉·拉吉继续对此话题进行进一步研究。在2019年,两人发表了名为“可操作的审计”的研究报告,此后亚马逊的面部识别系统受到审查,因为在提高面部识别对于有色女性的有效性上,亚马逊远远落后于其他公司。

但事情出现了转折。曾经为其面部识别产品辩护的公司,开始认真地重新评估自己的产品。IBM宣布将不再提供面部识别技术;亚马逊表示将暂停向警方出售面部识别技术,时长为一年;微软也宣布将不再向警方出售面部识别技术,“除非有联邦法律规范该技术”。据《华盛顿邮报》报道,数百名微软员工就要求公司领导重新考虑其执法合同。

亚马逊暂停对警方出售面部识别对于反对面部识别的人来说是一场巨大的胜利,该公司此前曾对其抗议活动施加巨大阻力。它发布了多篇博客文章,试图质疑审核员的工作,阻碍相关立法的制定。

由此可见,即使是像亚马逊、IBM和Google这样的科技巨头,早先也已决定不提供面部识别API,他们也不认为这项技术可供警方使用。

布拉姆维尼在推特上写道:“这不仅是研究人员的共同努力,也是公民自由组织、激进人士、员工和股东不断施加的压力,再加上乔治·弗洛伊德的不幸,以及公司对‘#黑人的命也是命’相关抗议活动迟来的认同”。

这种胜利在很大程度上是象征性的。但正如激进主义者指出的那样,现在我们有了推动人脸识别立法的机会。

莫纳什大学新兴技术实验室的研究员詹森•萨多夫斯基在推特上写道:“在我看来,这并不是赢了一场战役,而是赢得了一个乘胜追击的时机来大获全胜。我们所有人都抗击得很辛苦,只是为了获得足够的反击空间。现在我终于感到踏实一点了。”

但请务必记住,在面部识别领域,像IBM和Amazon这样的公司只是冰山一角。在美国,许多警察部门不从大型科技公司购买这些面部识别产品,而是从一些像NEC、Rank One和Cognitec等小型承包商那里购买声称使用了“法医”面部识别算法的产品。

例如,DataWorks Plus开发了数据库技术来分析警方存档的照片和其他面部照片,然后批准NEC、Rank One和Cognitec使用其面部识别算法。

NEC将其面部识别和指纹识别技术销售给包括美国20多个州在内的全球1500多个执法机构。自1983年在美国首次使用指纹识别技术以来,该公司就一直与生物识别技术的执法部门有着合作关系。

人脸识别技术在法律方面的监管尚未完善,这些公司利用其漏洞,在加利福尼亚州和马萨诸塞州部分地区等完全缺乏联邦法规的地方进行销售。


至于大型科技公司,亚马逊、微软、IBM和Google,他们竞争的是人工智能在军事和云计算领域的合同。除了IBM以外,所有这些科技公司都对联邦合同保持沉默。亚马逊还拥有智能门铃公司Ring,据称该公司已与美国1,000个警察部门建立了合作关系。

但毫无疑问,这些科技巨头的举措意味着,我们向着最终胜利迈出了重要的一步。


关键词: 亚马逊 微软 IBM 面部识别

加入微信
获取电子行业最新资讯
搜索微信公众号:电子产品世界

或用微信扫描左侧二维码

相关文章


用户评论

请文明上网,做现代文明人
验证码:
查看电脑版