社交账号登录

社交账号登录

0/34

上传头像

拖拽或者缩放虚线框,生成自己满意的头像

头像

预览

忘记密码

设置新密码

文化

图灵奖最新得主约舒亚·本希奥担心,“杀手机器人”将对人类不利

Dan Bilefsky2019-04-01 06:45:50

本希奥的哲学是“禁止禁止”。反过来,这种思想也影响了他对人工智能的研究。

本文只能在《好奇心日报》发布,即使我们允许了也不许转载*

蒙特利尔电 — 约舒亚·本希奥(Yoshua Bengio)担心,万一“杀手机器人”落入了不法之徒的手里,他参与开发的人工智能技术就可能让人类陷入深渊。

这位说话轻声细语的 55 岁加拿大计算机科学家日前刚刚获得了有着“计算机界诺贝尔奖”之称的图灵奖(A.M. Turing Award)。不过相比于《终结者》(The Terminator)里的末日预言,他更愿意接受《星际迷航》(Star Trek)中的理想世界。

本希奥博士表示:“在《星际迷航》的世界里,人类社会实行民主制度,民众衣食无忧,每个人都能得到良好的医疗保障和教育,仅有的战争就是对付外星人。而我也一直希望科学能让社会更美好。”他已为人工智能领域做出了莫大贡献,他的研究为语音及人脸识别、计算机视觉、自动驾驶汽车等技术奠定了基础。

不久前的一天,本希奥博士正坐在蒙特利尔学习算法研究所(Montreal Institute for Learning Algorithms)狭小的办公室里,详细介绍着人工智能的前景和风险。这家由他创立的研究所已让蒙特利尔成为了全球人工智能研究中心。他的身边放着一块白板,上面写满了复杂的方程式,旁边还有一句用法语写给清洁工的提醒:“请勿擦除”。

一旦擦去了这些式子,人类和机器就可能要付出沉重的代价。

蒙特利尔大学担任教授的本希奥博士十分谦虚,但他在“深度学习”领域的贡献影响了人类生活的方方面面,它能让 Google 翻译将法语转换为中文,或是是利用软件来识别医学影像中的癌细胞。(用他的话来说,“深度学习”就是“参照人类大脑的运作方式,教机器自主学习”。)

他和研究人员还利用人工智能寻找可以治愈疾病的药物、发现教科书中的性别偏见、预报自然灾害。

美国计算机学会(Association for Computing Machinery)将 2018 年的图灵奖授予了本希奥博士、杰弗里·欣顿(Geoffrey Hinton)、杨立昆(Yann LeCun)这三位人工智能领域的“大咖”,以表彰他们为开发惠及数十亿人的技术打下了基础,三人也将平分 100 万美元的奖金。学会会长彻丽·潘凯克(Cherri M. Pancake)表示,“凡是手中有一台智能手机的人”都能感受到他们带来的影响,并指出他们的努力也为医学、天文学、材料科学领域提供了“强大的新工具”。

尽管饱受赞誉,但本希奥博士并不希望看到科学家变成家喻户晓的名人。如今欣顿博士供职于 Google,杨立昆博士则是 Facebook 首席人工智能科学家,但本希奥却对硅谷大公司避尤不及。他更倾向于在蒙特利尔钻研学术,还在当地联合创办了软件公司 Element A.I.。

“我不喜欢让科学变得个人化,也不希望科学家变成明星,”本希奥如是道。他说自己性格内向,同事则表示他一心钻研算法的时候是最快乐的。“可能我比较幸运,我在正确的时期思考了正确的事情。”

与本希奥共事了超过 10 年的计算机科学家米丽娅姆·科泰(Myriam Côté)透露说,他是个反对传统、思想自由的人,硅谷的条条框框会让他感到束手束脚。她认为,本希奥在本质上向往共产主义社会,他不愿遵从等级制度,反而与名声不如自己的年轻同事分享项目收益。

科泰表示:“他希望在自由中创造。”她还引用了 1968 年法国学生运动提出的口号,说本希奥的哲学是“禁止禁止”(巴黎也是本希奥的出生地)。

反过来,这种思想也影响了他对人工智能的研究。

已故剑桥物理学家斯蒂芬·霍金警告说,发明人工智能可能是“人类文明史上最危险的事情”。亿万富翁、企业家伊隆·马斯克(Elon Musk)也告诫说,人工智能可能会造就一个“不朽的独裁者”。尽管如此,本希奥依旧保持乐观。

他表示:“我们需要学习科学知识,不然就会处处碰壁。不过我们应该谨慎行事。”谈到人类利用代数计算导弹发射角度时,他补充道:“战争的爆发不应该归罪于发明代数的人。”

不过,Facebook 的算法因为影响了 2016 年美国大选而饱受诟病,人们也越来越担心机器人会利用人工智能在无人监督的情况下攻击人类。此时本希奥强烈地意识到,自己的发明很可能会变成“弗兰肯斯坦创造的怪物”。因而,他支持监管人工智能的应用,包括让各国签署一项禁止开发“杀手机器人”或“致命自动武器”的国际条约。

他认为《终结者》中,拥有人类情感的机器转而袭击创造者的剧情不会在现实中上演。他强调说,机器没有自我意识和人类情感,也不是想要获得自由的奴隶:“人类之所以假想我们创造的东西会奋起反抗,是因为我们把自己的心理投射到了机器身上”,而这种想法是“荒谬的”。

本希奥的父母原本是摩洛哥卡萨布兰卡的西班牙、葡萄牙裔犹太人,后来在 1960 年代移民到了法国巴黎。本希奥对人工智能的兴趣可以追溯到他的童年,当时他阅读了大量艾萨克·阿西莫夫(Isaac Asimov)、雷·布拉德伯里(Ray Bradbury)和阿瑟·克拉克(Arthur C. Clarke)写的科幻小说。

他说,斯坦利·库布里克(Stanley Kubrick)执导的电影《2001 太空漫游》(2001: A Space Odyssey)中,人与机器的关系尤其激发了他的想象力:“一位老师每天都给机器讲授关于这个世界的知识,这引起了我的共鸣。科幻小说能让人遥想未来的世界。”

他回忆说,自己 11 岁时就开始摆弄计算器学习编程。当问及童年时期对他影响最大的事时,他突然顿了顿,出人意料地坦言道:“我的记忆力差,我善于推理,但不擅长记忆。所以我才喜欢数学和计算机科学,因为我不需要记忆任何东西。”

本希奥把自己的成功归功于他社会意识感强烈的父母。他的父亲是一名药剂师兼剧院经理,母亲则是艺术家经纪人。他说父母给了他和弟弟独立思考的自由。

父母的理念似乎起到了作用。本希奥的弟弟萨米(Samy)小他一岁,目前是人工智能研究团队 Google Brain 的主管。他说,兄弟俩“就好像一对双胞胎”,他们经常会开展合作、交流思想。

本希奥 12 岁时,全家搬到了外祖父母所在的蒙特利尔。1980 年代末,他在麦吉尔大学(McGill University)攻读计算机科学硕士和博士学位,并被欣顿博士的研究所吸引。当时后者正在开发基于所谓神经网络的“智能计算机”,这种神经网络是可以通过分析大量数据自主学习任务的算法。

“它不仅是数学问题或计算机科学,还能通过理解人类智慧制造智能机器。”此后,他前往麻省理工学院和贝尔实验室开始了博士后研究工作。

本希奥回忆说,尽管许多计算机科学界人士对他们的研究不屑一顾,认为这是一种“黑魔法”,几乎没有实际用途,但他和欣顿博士、杨立昆博士还是花了几十年研究神经网络。对他来说,无视反对者的意见、对传统说“不”的做法再自然不过了。

“制造智能机器的伟大梦想在 1990 年代末渐渐破灭了。很多人以为:‘这太困难了,我们还是用算法来解决一些实际问题吧。’不过我不在乎别人在某段时间里关心什么,我相信自己在做的事是正确的。”

虽说他们的创新研究改变了整个领域,也使他成了人工智能行业的超级明星,但本希奥仍然乐于与学生在一起,他还把学生称做是自己的“家人”。他本人已经离婚,有两个成年的孩子,其中一个也在人工智能能行业工作。平时,他常常利用宝贵的闲暇时间阅读斯宾诺莎的著作、在他家附近的树林里散步。

本希奥对自己获得的奖项和财富不以为然。他强调说,自满和自负是阻挡科学进步的两大障碍。

他表示:“光有自信是不够的。你可以有自信,但同时也是错的。”


翻译:熊猫译社 智竑

题图版权:Renaud Philippe for The New York Times

© 2019 THE NEW YORK TIMES

喜欢这篇文章?去 App 商店搜 好奇心日报 ,每天看点不一样的。