新用户注册

完善资料

选取头像

上传头像

拖拽或者缩放虚线框,生成自己满意的头像

头像

预览

忘记密码

设置新密码

智能

与人工智能相伴,人类将迎来什么样的未来?

曾梦龙2018-07-06 19:07:18

无论你是科学家、企业家还是将军,所有人都应该扪心自问,现在可以做些什么,才能提升未来人工智能趋利避害的可能性。这是这个时代最重要的对话,而迈克斯·泰格马克发人深省的著作《生命3.0》能帮助我们参与到这场对话中来。——史蒂芬·霍金 物理学家

作者简介:

迈克斯·泰格马克:未来生命研究所(Future of Life Institute)创始人,致力于用科技来改善人类的未来。该组织自成立起汇聚了 8000 多位世界杰出人工智能专家,包括史蒂芬·霍金、埃隆·马斯克、比尔·盖茨、雷·库兹韦尔、拉里·佩奇等,还获得许多著名组织的支持,包括亚马逊、谷歌、 Facebook 、微软、 IBM ,还有研究了 AIphaGo 的 Deepmind 公司。

麻省理工学院物理系终身教授,平行宇宙理论研究专家,首次提出“数学宇宙假说”。他还是参与过原子弹研究的著名物理学家约翰·惠勒的学生。被誉为“最接近理查德·费曼的科学家”。著有畅销书《穿越平行宇宙》,发表了 200 余篇科技论文,“深度学习三巨头”之一的杨立昆是其合著者之一。

书籍摘录:

引 言 欧米茄传奇(节选)

欧米茄团队是这家公司的灵魂。虽然该公司其他部门通过开发各种狭义人工智能(narrow AI)的商业应用赚得盆满钵满,让公司得以按部就班地运转下去,但欧米茄团队却一直秉承并追寻着公司 CEO 的梦想:建造通用人工智能(Artificial General Intelligence,简称AGI)。因此,其他部门的员工都亲切地称他们为“欧米茄”,并把他们视为一群不切实际的梦想家,因为他们似乎总是与自己的目标差着几十年的距离。但是,人们喜欢纵容这些人,因为欧米茄团队的前沿工作为公司带来了声望,他们为此感到高兴。同时,欧米茄团队偶尔会改进一些算法供其他部门使用,这让他们十分感激。

然而,其他部门的同事不知道的是,欧米茄团队之所以精心打造自己的形象,是为了隐藏一个秘密:他们马上就要启动人类历史上最勇敢无畏的计划了。那位极富个人魅力的 CEO 亲自挑选了这些人,不只是为了培养杰出的研究人员,还为了实现他帮助全人类的雄心壮志和坚决承诺。他告诫欧米茄团队,这个计划非常危险,如果被不怀好意的人发现了,他们就会不择手段地甚至实施绑架来制止这个计划,或者盗走他们的代码。但是,这些人已经全身心投入其中了。他们的理由和当年众多世界顶尖物理学家加入“曼哈顿计划”开发核武器的原因差不多:因为他们都坚信,如果自己不率先做出来,就会有其他不那么高尚的人捷足先登。

欧米茄团队建造的人工智能昵称叫“普罗米修斯”(Prometheus),它一天比一天强大。诚然,它的认知能力在社交技能等许多方面还远远落后于人类,但欧米茄团队竭尽全力让它在一个任务上表现超凡,这个任务就是编写人工智能系统。他们之所以选择这个计划,是因为他们相信英国数学家欧文· 古德在 1965 年提出的“智能爆炸”理论。古德说道:

让我们给“超级智能机器”(ultraintelligent machine)下一个定义,那就是:一台能超越任何人(无论这个人多么聪明)的所有智力活动的机器。由于设计机器也属于这些智力活动中的一种,因此,一台超级智能机器就能设计出更好的机器;那么,毫无疑问会出现一种“智能爆炸”,到那时,人类的智能会被远远甩在后面。于是,首台超级智能机器就会成为人类最后一个发明,只要它足够驯良,并告诉人类如何控制它就行。

欧米茄团队认为,只要他们能让这个不断迭代的“自我改善”过程持续下去,那么最终,这台机器就会变得非常聪明,足以自学其他有用的人类技能。

获得权力

欧米茄团队成立媒体公司不只是为了投资那些早期的技术公司,还为了他们大胆计划的下一步:统治世界。在成立后的第 1 年,欧米茄团队在全球节目表中都增加了非常精彩的新闻频道。与其他频道不同,这些频道被定位为公共服务,是亏钱的。实际上,他们的新闻频道也赚不到一分钱,因为没有广告植入,任何人只要有网络就可以免费观看。这个媒体帝国的其他部门可谓印钞机,因此,他们可以在新闻服务上倾注极多的资源,比世界历史上任何一家新闻机构都要多,这一点显而易见。通过极具竞争力的薪酬雇用到的新闻记者和调查记者将精彩的故事与发现搬上了荧幕。任何一个人,只要向欧米茄团队控制的全球新闻网络提供一些有报道价值的内容,比如从本地的公众焦点到暖心的市民故事,都会获得一笔奖励。有了这样的机制,许多具有轰动效应的故事往往都是由他们率先报道的,至少人们是这么相信的;而实际上,欧米茄团队能抢先报道的原因是,那些归功于公民记者的故事其实都是由普罗米修斯在实时监控互联网的过程中发现的。这些视频新闻网站同时也提供专栏播客和文章。

欧米茄团队新战略第 1 阶段的目的是获取人们的信任,结果非常成功。他们空前的散财精神引发了区域及本地新闻报道热潮,调查记者揭发了许多夺人眼球的丑闻事件。每次,当某个国家在政治上出现严重的分歧,导致人们习惯于偏颇的党派新闻时,欧米茄团队就会成立一个新的新闻频道来迎合各个派系。这些频道表面上分属不同的公司,但逐步赢得了各个派系的信任。有时候,欧米茄团队也会通过中介来购买最具影响力的现有的频道,然后逐步去除广告,进行改善,并引入他们自己的内容。欧米茄团队内部遵从着一个秘密的口号:“真相,只要真相,但不一定要全部真相。”在这些情况下,普罗米修斯通常能提供极好的建议,告诉他们哪些政客需要以正面形象示人,而哪些(通常是那些贪污腐败的人)需要被曝光。

这个策略在世界各地都取得了巨大的成功。从此,欧米茄团队控制的电视频道成了最受信赖的新闻来源。欧米茄团队建立起了“值得信任”的口碑,他们的许多新闻故事通过小道消息在大众中流行。欧米茄团队的竞争对手感觉自己被卷入了一场毫无胜算的战争:如果你的对手拥有更多资金, 同时还能提供免费的服务, 你怎么可能在竞争中赢得利润?随着这些竞争对手节目的收视率骤减,越来越多的电视网络服务商决定卖掉自家的频道,而购买方通常都是一些后来被证实受欧米茄团队控制的财团。

在普罗米修斯发布的两年后,“获取信任”的阶段已经基本完成,欧米茄团队接着发布了新战略第二阶段的目标:说服。早在这之前,有些敏锐的观察者就已经注意到这些新媒体背后的政治意图:有一股温和的力量在推动着国际社会远离各种形式的极端主义,向中间立场靠拢。虽说他们有许多频道依然在迎合不同的群体,而且这些频道还在继续反映不同宗教信仰和政治派系等之间的敌意,但批评的矛头却变得缓和了一些,主要集中在与金钱和权力有关的具体问题上,而不是有失偏颇的攻击,更不是危言耸听或者风言风语。一旦第二阶段开始变得白热化,这种旨在消解旧日冲突的推动力将会变得日益尖锐起来。欧米茄团队掌控的媒体时常会报道一些关于老冤家陷入困境的感人故事,同时也夹杂着一些声称许多极端战争分子都是受个人利益驱使的调查报道。

政治评论家还注意到,在地区冲突受到抑制的同时,似乎还有一股坚定的力量朝着减少全球威胁的方向推动。比如,世界各地都突然开始讨论核战争的风险。几部卖座的大片刻画了全球核战争在无意或蓄意的情况下爆发了,戏剧化地演绎了战后“核冬天”的场景:基础设施瘫痪,饿殍遍野,眼前呈现的是一幅惨淡的反乌托邦画面。手法老练的新纪录片详细地描绘了“核冬天”会如何影响每一个国家。支持“核降级”(nuclear de-escalation)的科学家和政客在电视上出尽了风头,大肆讨论他们对“应该采取什么有效措施”的最新研究结果,这些研究资金都来自一些科学组织, 而这些科学组织是从那些新兴科技公司那里获得了大量捐赠的。结果,一股政治势力开始抬头,解除了核导弹一触即发的警报状态,缩减了核装备。媒体开始重新关注全球气候变化,通常会突出强调普罗米修斯所带来的技术突破,这些突破极大地削减了可再生能源的成本,意在鼓励政府投资这类新能源的基础设施。

在控制媒体的同时,欧米茄团队还利用普罗米修斯掀起了一场教育革命。普罗米修斯能根据每个人的知识和能力,为他们定制新知识的最快学习方法,让他们高度参与其中,并一直保持高涨的学习动力。它还制作了视频、阅读材料、练习题等学习工具,并对其进行了相应的优化。这样一来,欧米茄团队控制的公司在网络教育方面几乎覆盖了所有学科,并针对不同的用户,在语言、文化背景甚至受教育情况等方面进行了高度的定制。无论你是想学习读写的 40 岁文盲, 还是想了解最新癌症免疫疗法的生物学博士,普罗米修斯都能找到最适合你的课程。这些课程与当今大部分网络课程截然不同:它用超凡的电影制作技能将这些课程视频打造得非常吸引人。而且视频中还加入了许多绝妙的比喻,可以帮助你快速联想、迅速理解,并渴求学得更深入。这些课程多数是免费的,所有想要学习的人为此很开心,同时也正中世界各地教师的下怀,因为他们可以在课堂上播放这些视频,而不用顾及版权问题。

事实上,这一在教育行业风靡起来的超级势力也被证明是一种有效的政治工具,因为它创造出了一条基于在线视频的“说服链”。在这个链条中,视频带来的洞察力不仅更新了人们的观念,还激起了他们继续观看下一个相关视频的兴趣。通过一个接一个的视频,他们一步步地被说服了。比如,为了消解两个国家之间的冲突,欧米茄团队会在两个国家内部分别发布一些历史纪录片,用一种更加微妙的手法来讲述冲突的起源和爆发。极具教育性的新闻故事告诉人们,一些坚持立场的人只是为了从持续的冲突中获得利益而已, 并向人们解释了他们所使用的方法。与此同时,那些像是来自敌对国家的角色开始出现在娱乐频道的大众节目中,而这些节目的论调充满同情心。不久后,政治评论家发现,有 7 个政治口号的支持率开始显著上升:

  • 民主;
  • 减税;
  • 削减政府的社会性服务;
  • 削减军费;
  • 自由贸易;
  • 开放边境;
  • 企业社会责任。
迈克斯·泰格马克,来自:维基百科

不过,鲜有人注意到这些表象下面隐藏的目的,那就是:侵蚀世界上所有的权力结构。第 2~6 项侵蚀的是国家权力,世界性的民主化进程让欧米茄团队操控的商业帝国能够在政治领袖的遴选过程中施加更大的影响力。对企业社会责任的强调进一步削弱了国家的力量,因为企业越来越多地接管了过去由政府所提供或者应当由政府提供的服务。传统商界精英的力量也被削弱了,原因很简单,因为他们根本无法在自由市场中与普罗米修斯控制的企业抗衡。因此,他们在世界经济中占据的份额开始逐步萎缩。传统的意见领袖,无论是来自政党还是宗教团体,都缺乏与欧米茄团队操控的媒体帝国相竞争的说服机制。

在这一骤变的风云之下,几家欢喜几家愁。由于教育机制、社会服务和基础设施建设有了长足的改善,冲突得到平息,各地的公司都发布了轰动全球的突破性技术,因此,大多数国家明显笼罩在乐观主义的氛围之中。但是,并不是所有人都很高兴。虽然许多失业人员都得以在社区项目中重新就业,但那些曾经手握权力和财富的人的境遇却每况愈下。这种情况首先开始于媒体和科技领域,但很快就席卷全球。由于冲突减少,各国的军费开支骤降,军方承包商的利益受损。纷纷涌现的初创企业极少公开上市,据它们解释说,因为一旦上市,追寻利益最大化的股东就会阻止公司在社区项目上投入较多的资金。因此,世界股票市场持续下跌,不仅威胁着金融大亨,还威胁着那些指望着以养老基金过活的普通人。公开上市交易的公司利润持续萎缩,更糟的是,全世界的投资公司都注意到了一个令人不安的趋势:所有过去成功的交易算法似乎都失效了,甚至比指数基金的表现还差。似乎总有什么人比他们更精明,在他们自己设计的游戏中击败了他们。

尽管大量权贵人士都开始抵制这一变化, 但令人惊讶的是, 他们的反对却收效甚微,就好像他们掉进了一个暗中布好的圈套中。巨大的变化以摧枯拉朽之势迅速席卷全球,令人很难追踪,也很难想出一个组织有序的对策。此外,这些权贵人士也完全不清楚自己应该往哪个方向推动。过去的政治势力所呼吁的大部分政治权力都已经实现, 但实际上,减税和构建良好商业环境的措施反而是在帮助那些科技水平更高的竞争者。几乎所有的传统工业都在求助,但政府资金却非常有限。这一事实让传统行业陷入了一场毫无希望的战争,但媒体则把它们描绘为一帮没有能力在竞争中立足却又要求政府救济的“大恐龙”。传统的左翼政治势力反对自由贸易和削减政府的社会服务,而青睐削减军费和减少贫困人口,但现在他们的风头却被人抢了。一个毋庸置疑的事实是,如今的社会服务已经改善了许多,但却不是由政府实现的,而是由富有情怀的公司推动实现的。一个接一个的调查显示,世界各地的大部分选民都觉得,自己的生活质量得到了大幅提升,一切都在朝好的方向发展。这可以用一个简单的数学计算来解释:在普罗米修斯之前,地球上最贫穷的 50% 人口只赚取了全球收入的 4% 。因此,即便普罗米修斯旗下的公司向穷人分享的利润只算得上是九牛一毛,也依然能赢得他们的心,更不必说选票了。


题图为美剧《西部世界》第一季,来自:豆瓣

喜欢这篇文章?去 App 商店搜 好奇心日报 ,每天看点不一样的。