社交账号登录

社交账号登录

0/34

上传头像

拖拽或者缩放虚线框,生成自己满意的头像

头像

预览

忘记密码

设置新密码

智能

IBM 用纽约街头的监控训练软件,警方可按肤色搜索嫌疑人

罗骢2018-09-10 06:34:00

引起了关于种族歧视和隐私保护的争议。

2001 年 911 事件之后,纽约警方制定了新的防止恐怖主义袭击计划——通过数千台摄像机来监控曼哈顿市中心的每一条街道。十年后,纽约警方将这项视频监控业务集中到一个指挥中心,即曼哈顿下城区域安全协调中心,并在当时表示,安全中心在监控系统中应用了一些复杂的视频分析软件。

最近,美国科技媒体 The Intercept 和美国国家研究院非盈利调查基金的最新报告揭露了这个视频分析系统的细节。软件实际上是由 IBM 负责开发,纽约市警察局则提供大量的闭路电视监控数据作为软件训练的数据库,最终让软件可以根据肤色、发色、性别、年龄和各种面部特征去搜索相关人员。

作为纽约曼哈顿下城(New York’s Lower Manhattan Security Initiative)安全反恐中心的合作方,IBM 不仅可以调用 512 台摄像机的数千张照片,还可以获取在曼哈顿区域内大量监控传感器,包括摄像头,车牌阅读器等设备采集的数据。

当时,纽约警察部门希望视频分析能够提高在敏感区域实时识别可疑物品和人员的能力,纽约警察局已经退休的警察麦考特(Conor McCourt) 表示,他在初期阶段使用了 IBM 的系统。

“例如你在曼哈顿市中心发现了一个可疑的袋子,作为监控中心的工作人员,你需要监控系统可以追踪是谁把这个袋子放在这里,前后发生了什么的能力”,麦考特说。

IBM 的前研究员 Kjeldsen 接受采访时候回忆警方提出的需求。“监控软件需要处理大量不同的图像,以便学习如何适应不同的光照,阴影和其他环境因素”。

随后,IBM 不断在改进这套系统,随着合作的加深,他们被允许利用该项目进行人口特征统计,同时获取到更多的数据,例如整理纽约人在公共场所或者通过地铁转门时候采集到的特写图像。根据 IBM 的内部文件,到了 2012 年,IBM 已经改进了在监控系统中搜索特定人物的能力,远不止是找一个袋子这么简单,系统可以通过例如年龄、性别、头部颜色、皮肤颜色等信息进行搜索。

纽约警方在向 The Intercept 回应的邮件里承认,在 2016 年左右,IBM 的确向他们提供了可以按种族搜索人的方案。但是“该部门明确拒绝了该产品。”邮件内强调。

根据纽约警察局的说法,安全中心的反恐人员使用 IBM 按皮肤颜色,种族搜索这类的功能仅用于测试评估目的,而且只有少数反恐人员才能使用这些功能。同时,这套系统也仅在不到 50 台电脑中进行了测试。

前研究员 Kjeldsen 表示,IBM 研究对象识别系统最初的目的只是用于自动驾驶汽车或互联网上的图像识别等技术。但随着 911 事件之后,IBM 发现这套系统非常适用于预防恐怖袭击。

“在纽约,能搞定恐怖袭击是一个很好的卖点,在 911 之后,金钱和资源都推向了安全项目”,Kjeldsen 说“这虽然不是当时我们关注的,但是需求所在”。根据 IBM 的内部文件,2007年,IBM 作为微软子公司 Vexcel 的分包商,参与了这个六年内价值 6070 万美元的项目。

但通过皮肤、种族等信息进行嫌疑人筛选的监控系统引起了很大的争议,公民自由倡导者组织表示,他们对纽约警察局帮助建立具有潜在大规模种族貌区别的监控系统的计划感到震惊。

自由与国家安全计划的高级顾问 Rachel Levinson-Waldman 认为,在重大恐怖袭击事件发生后,IBM 建立的识别技术很容易被滥用。“无论肇事者是否是穆斯林,推定通常都是将嫌疑人目光转向他或她” ,Rachel 说,不难想象执法部门会对嫌疑人的种族和宗教身份做出草率的结论,然后匆匆进入视频监控系统,并通过它查找任何符合例如穆斯林这类嫌疑的人。

同时,视频监控分析并不能确保 100% 正确,在过去,已经发生过很多起监控系统弄错嫌疑目标的事情。纽约最大的公共辩护组织法律援助协会的数字取证律师杰罗姆·格雷科(Jerome Greco)就认为,错误的监控识别程序也可能因为一些普遍的身体特征信息,从而不公平地将正常人陷入警察的怀疑之中。

监控技术在某些方面的确提高了城市治安,包括中国、美国在内都建立了庞大的视频监控系统。但数据如何使用,是否有对于隐私保护都成为问题。 Kjeldsen 在采访就认为,纽约警方在没有得到公众同意的情况下,就利用监控数据帮助 IBM 开发这项技术的方式开创了一个危险的先例。

题图来源:Pexels

喜欢这篇文章?去 App 商店搜 好奇心日报 ,每天看点不一样的。