社交账号登录

社交账号登录

0/34

上传头像

拖拽或者缩放虚线框,生成自己满意的头像

头像

预览

忘记密码

设置新密码

智能

一系列抗议之后,旧金山拟禁止政府使用面部识别技术

王毓婵2019-02-01 07:06:35

而中国已成为最大的监控技术市场。

旧金山市市议会议长 Aaron Peskin 本周提出了一项立法申请,提议禁止旧金山市政府在该市使用人脸识别技术。如果该提案通过,旧金山将成为全美第一个禁止政府使用面部识别技术的城市。

这项申请名为“停止秘密监视条例”对政府有如下几点要求:

  1. 在使用或购买监控技术之前,该市政府部门必须征得监事会的批准;
  2. 对监测技术进行年度审计,以确保适当使用所涉及的工具;
  3. 颁布全面禁令,禁止政府部门购买或使用面部识别技术。

该法案将于下月在旧金山市议会进行讨论。 

Aaron Peskin 的提议已经得到了“美国公民自由联盟”(ACLU)等民权团体的支持。ACLU 一直是反对美国政府使用面部识别技术的主力团队之一。去年 7 月,该团体为了证明面部识别技术的缺陷而组织了一场著名的行动:他们使用亚马逊的开放式 Rekognition API 扫描了所有 535 名国会议员的面孔,发现 Rekognition 将其中 28 个国会议员认成了嫌疑犯。

被亚马逊人脸识别系统 Rekognition 错认为嫌疑犯的国会议员

这些人当然并不是在逃嫌犯,但他们中的很多人是有色人种。“国会黑人党团(CBC)的 6 名成员全部在内,包括传奇民权领袖、众议院议员约翰·路易斯(John Lewis)等。” ACLU 称,他们对 Rekognition 的准确性和公正性感到担忧。

ACLU 呼吁政府暂停使用该技术的最主要原因是它有可能加深种族歧视。因为如果人工智能的训练数据本身就是严重偏向白人的,那么机器做出的判断可能也会非常偏向白人。ACLU 论证说,整个国会中只有 20% 的有色人种,而在机器认定的“嫌疑犯”中,有色人种却占了 39%。这与 NIST 的面部识别供应商测试所发现的结果类似,即女性和非洲裔美国人被误识的概率更高。

在 Aaron Peskin 本次提交的旧金山“停止秘密监视条例”中,他也提到了这个问题:“监视工作在历史上曾被用来恐吓和压迫某些社区和群体,人们可能因为不同的种族、民族、宗教、国籍、收入水平、性取向或政治观点而遭到监控。面部识别技术对公民权利和公民自由的危害大大超过了其所声称的益处。该技术将加剧种族歧视,并威胁我们所有人在政府的监控之下生活。”

微软、Facebook、亚马逊等科技巨头都有发展面部识别技术,亚马逊是其中走得最远的一个。

2016 年末,亚马逊推出了 Rekognition 人脸识别系统。它作为亚马逊云业务的一部分,一直寻求与政府合作,向后者提供基于人脸识别的安防服务。该软件非常便宜,整个部门每月的成本通常不到 12 美元。包括俄勒冈州、佛罗里达州在内的众多美国州立政府已经成为 Rekognition 的用户。

近年来,亚马逊的人脸识别系统被越来越多地应用在执法过程中,有关于它的争议也越来越多。2018 年 6 月,亚马逊员工抗议公司开发并向政府销售 Rekognition,上百人签署了名为“We Won't Build It”(我们不想做这个)的联名信。可惜抗议无效,11 月,亚马逊向员工表示,仍然会把 Rekognition 卖给执法部门。

就在亚马逊驳回员工抗议的这个月,同样在开发面部识别系统的微软主席布拉德·史密斯(Brad Smith)公开表达了自己对于该技术泛滥的担忧。

“有史以来第一次,技术可以让政府在任何时候获知什么人在什么地方。它可以知道你想去哪里、你去了哪里、你昨天在哪儿。这意味着民主社会依赖的公民的基本自由面临深远的分叉。在我们醒来发现 2024 仿佛是《1984》之前,让我们搞清楚我们希望创造怎样的世界,什么样的保障是合适的,以及政府和公司使用科技的界限。”

去年更早些时候,史密斯还曾呼吁政府对面部识别技术进行额外监管。“面部识别技术引发的问题涉及到隐私和言论自由等基本人权保护的核心。”史密斯写道,“这些问题加重了开发此类产品的科技公司的责任。在我们看来,政府需要对它们进行深思熟虑的监管,并就可接受的用例制定规范。”

2018 年 6 月,微软因为向美国移民与海关执法局(Immigration and Customs Enforcement,简称 ICE)提供人脸识别服务,曾激起内部员工的抗议。抗议者认为,微软参与了 ICE 拆散移民家庭的行为。

市场研究机构 IDC 30 日发布的报告预测,2022 年中国视频监控摄像头部署量将达到 27.6 亿台。中国未来几年里将在提升跟踪活动的技术能力上再花 300 亿美元

中国已成为世界上最大的安全和监控技术市场。研究公司 IHS Markit 预测,全球用于在视频画面中搜索面孔的服务器将有四分之三被中国购买。

去年 9 月,中国人脸识别技术开发公司商汤科技获软银中国 10 亿美元投资,估值达到 60 亿美元。2017 年 10 月,它的竞争对手旷视科技 Face++ 也获得了由中国国有资本风险投资基金领投的 4.6 亿美元

题图/visualhunt

喜欢这篇文章?去 App 商店搜 好奇心日报 ,每天看点不一样的。