社交账号登录

社交账号登录

0/34

上传头像

拖拽或者缩放虚线框,生成自己满意的头像

头像

预览

忘记密码

设置新密码

文化

亚马逊员工公开致信贝索斯,希望公司停止与政府合作面部识别系统

顾天鹂2018-10-19 14:25:36

信中称,把强大的技术卖给政府和执法部门,既危险又不负责任

一位匿名但通过验证的亚马逊员工 17 日在 Medium 上发布了一封公开信,呼吁公司肩负起社会责任,叫停与美国国防部和执法系统就面部识别软件 Rekognition 合作的项目。

“当一家公司把一项新技术介绍给世界时,它必须负责地去考虑后果。我所工作的亚马逊,现在允许全国警察系统购买面部识别产品 Rekognition,我和其他员工呼吁停止这样的行为。”

Rekognition 可以做到提取一帧视频中的几十个面容 ID,把它们存储起来留做后用,或者即时将之与数据库中百万张照片对比。

他们担忧的地方在于,执法部门在没有公众监督、社会问责和亚马逊限制的情况下使用这些技术(这是个进行时的事件而非未来设想),很可能造成对人权的侵犯,“我们都知道,把强大的新监控技术随意交给国家,让它被用于还没做任何错事的无辜公民会发生什么事”。

他们还认为,这项技术很容易导向对少数族群的歧视。Rekognition 并非一个完美的系统,和其他识别系统一样,它在鉴别深色皮肤人种时错误率更高。在一次实验中,系统将国会每位成员的照片和一组犯罪嫌疑人照片对比,当中出现了 28 组错误配对,有色人种明显占比更大。“就算它被修正,它仍然是不负责任又危险的……已有的人类偏见导致了系统的偏见,它只会复制并放大现存的压迫体系。”

在政府日益加强对公民监控的环境下,“像我们这样的公司绝对不应该陷入助力专制监控的事业,现在不该,永远都不该”。

亚马逊高层的态度也是激怒员工们的原因。几周前已经有 450 多名员工联名要求 CEO 杰夫·贝索斯别将识别软件卖给政府部门,却未收到任何回应。而贝索斯在 15 日的 Wired25 大会上说,公司将持续和国防部合作,“如果大科技公司都拒绝了国防部,那么这个国家会陷入麻烦……这是我们该做的事情,高层领袖的工作之一就是做出正确决定,就算它不受欢迎。”

虽然他承认有些技术可能被滥用,但这不是叫停新技术发展的理由。他认为最终社会会自行发展出一套应对技术错误运用的“免疫反应”,“我担心某些技术对于独裁者加强政权很有帮助……但这不是最近发生的事情,它一直以来都在发生。我们总会解决这个问题的。”

就在三个月前,亚马逊网络服务的全球 VP 特蕾莎·卡尔森也表示,公司将“忠贞不渝”地支持执法部门、国防部和情报部的客户,就算“我们对他们要用这些工具做什么一概不知”。

而员工们认为,亚马逊做的应该比“等待免疫反应”更多,如果只是等待,那么“造成的伤害很难扭转”。

科技公司近来常因与政府部门合作而遭到员工抵制。谷歌今年便向雇员妥协了两次,分别是同意终止为五角大楼开发用以支持军用无人机的 AI,以及放弃五角大楼那份价值百亿美元的云计算服务 “JEDI” 合同;微软也想获得 “JEDI”,但是它同样遭到了员工的公开抗议,“不透明的条款让一个普通的微软人几乎无法知道自己在写的代码是不是被用于伤害和监控”。

亚马逊公开信的结尾也提到了科技公司员工的联合力量,“我们不会沉默地开发科技去压迫和杀人,无论是在自己的国家还是在别的国家。”

题图来自《疑犯追踪》

喜欢这篇文章?去 App 商店搜 好奇心日报 ,每天看点不一样的。