刘学伟:人工智能会毁掉西方的橄榄形社会吗?(下)

作者:刘学伟  来源:

第四章  从今以后,(20年内)数字革命会怎样?

    现在我们开始面向未来。本文开始时已经说过,这个面向的未来十分有限,不超过20年,不涉及任何不靠谱的技术,更无涉科幻。就是想评估一下,最低限度,我们已经面临多少危险。


第一节 《未来的就业:职业对电脑化的前景有怎样的敏感度?》一书摘要

        笔者最近一两个月已经浏览了数十篇/部英法文相关智能机器对就业的冲击的文章、报告和书籍。发现Carl Benedikt Frey† and Michael A. Osborne September 17, 2013发表的这个题为“THE FUTURE OF EMPLOYMENT: HOW SUSCEPTIBLE ARE JOBS TO COMPUTERISATION?” 72页的报告拥有无可动摇的原创地位。无计其数的相关主题的文章都在引用这份报告的内容。而且迄今好像还没有另一篇论文/报告/书籍能比它更完整深刻周全。笔者也不能免俗,甚至想引用得更广泛深入一些。这是第一部似乎也是唯一一部著作,它试图认真地量化电脑化对就业市场的影响。

    该书从美国劳工局的官方统计数据库One*Net统计的902个细分职业中,选出702中数据较完整的细分职业作为他的分析对象。他的分析对象仅限于美国的劳工市场,但显然对整个发达西方具有示范性。

    他先把这702中细分职业所面对的任务按本文第二章已经说过的脑力或体力,常规例行或非常规例行分为交叉的四个类型。常规例行的任务被定义为可以被电脑理解并执行的任务。而非常规非例行的工作,如果不能得到足够好的解释,就无法被电脑算法理解执行。这两类任务都可以是需用体力的或脑力来解决的任务。

    该论文提到人工智能发展的三大难关:

    一、感知和操控Perception and Manipulation)能力。举个例子,为了改动不合身的服装,或为了让新的服装高度合身,专业人员需要让衣服的主人把半成品或不合身的衣服穿在身上,然后用大头针把需要改动的地方一一别起来。这项任何一个有合格智力的成年人都可以做的工作,让机器人来做就会非常的困难。它涉及下面马上要谈到的首先是对服装合体度的微妙感知,然后需要用到人的肢体灵巧度,尤其是手指灵巧度,还没有用到对狭窄工作空间的适应度

    二、创新智力Creative Intelligence 比如文学艺术科学研究发明创造美工设计。其实还有一样工作电脑做不了。那就是给艺术作品打分。比如听说电脑已经可以按严格的格律做出各种指定题目的旧体格律诗。那些诗的水平初看经常还差强人意。但是,电脑却没有办法给这些自己写的诗作评定等级。比如某些写得极好,某些相当好,某些一般,某些差劲。它只有技术标准,没有艺术标准。应当也不能理解用典、伏笔、隐射当前社会热门话题等高级技巧。

    三、社交智力Social Intelligence 谈判、说服、照顾、情感等。这个方向其实很可能是人类可以长期保留的最大一块地盘。这里有太多的人必须用一生阅历来积累的默示(Tacit)知识和标准,电脑还远远不能掌握。其实已经有一个很好的词来描绘这种电脑很可能无法掌握的人类独门技能就是:情商。电脑至今是完全没有情商的。科幻作品中的相关描写都是纯属虚构。

    该论文根据这三个方面的难度,建立了一套复杂的公式来702个职业综合打分。

    在这三个方向,作者选了九个更小的变量,就它们被电脑化的可能性,来给这702个细分职业分别打分。这九个更细的变量分别是:

    第一类,社会人际功能4项:帮助别人、说服、谈判、社会感知

    第二类,创新功能2项:艺术、独创

    第三类,感知与操控功能3项:身体灵巧度、指头灵巧度、狭窄工作空间适应度。

    下页的九张小图是作者给这702项细分职业打出的分数坐标图。 每一个图上,都有702个点。把这些分数以一定的方式加合起来,再折成百分比,就是作者给这702个细分职业被电脑化的可能性打出的分数。

""""""""


    下页这张彩图是这篇论文中最重要的一幅,也是作者研究的综合结论。现在来解读一下。

""""
""

 图的横轴,是该类职业被电脑化的可能性,从0到1。图的纵轴,是该职业的人口数量,单位是百万。按照作者的计算,有47%的职业人口,处于0.70以上的高风险范围。19%的职业人口,处于0.3-0.7之间的中等风险范围。33%的职业人口,处于0.3以下的低风险范围。

    下表把该报告的702个细分职业合并为21个更大的类别,分别列出了它们的三种风险度比重。

    归纳一下,风险度最高的职业类别的领先排序是:住宿和饮食服务(86.7%)、运输和仓储(75.0%)、房地产和其租赁(67.2%)、零售商业(66.6%)、批发商业(65.7%)、行政和支持服务(62.2%)、制造业(61.7%)、建筑业(58.6%)、金融和保险业(53.7%)。

""


    风险度最低的职业类别的领先排序是:公司和企业经理(82.8%)、农业林业渔业和狩猎业(75.6%)、教育服务(63.1%)、自雇(60.4%)、自由职业/科学与技术服务(54.0%)、IT业(51.6%)。

    本人再概括一下:越是低技能要求,越是低收入的行业,一般风险越大。但有例外,就是那些特别要求感知和身体技能的职业。最典型的就是理发师、水管工等。

    但是要求高学历的一部分职业,由于其工作内容太规范,也有极大被电脑化的风险。比如金融和保险业从业人员。由于它们的工作处理对象极度单一,就是钱,太容易被数字化了。

    真正要求高智商的,要求独创能力的行业(艺术、自由职业/科学与技术服务、IT业),要求高度的与人交际能力的行业(公司和企业经理、教育服务),被电脑化的风险小。

    在美国,创造最多职业的领域首先是卫生健康领域,然后是与环保有关的人称绿色领域IT领域则会继续发展与人工智能、大数据、云计算、物联网有关的部门。机器人行业会取代工人,但也会创造与设计、制造机器人有关的就业岗位。

    本人的补充结论是:该论文的作者很聪明地申明,他的系数表达的是风险概率,不是定数。但是如果这个概率在10-20年内兑现比如三分之一到一半,那美国或者说情况类似的西方其它发达国家的失业率轻而易举就会拔高到20%以上。那可是一件十分严重的事态。


第二节  无人驾驶汽车通行后会怎样

    首先本人必须肯定,汽车自动驾驶将是人类触手可及的最新也最大的一项科技进步,它会给人类带来巨大的乐利。首先是提高行车效率,提高每辆汽车的使用率,减少资源能源消耗,减少温室气体排放,减少其它粉尘污染,减少公路交通事故,节省城市里宝贵的路面和停车地资源 ……  当然这些都是以自动驾驶车辆通行以后的私家汽车保有量会大幅下降为前提的。

    为什么私家汽车保有量会大幅下降呢?大家都知道,这些私家车绝大多数时间都在家里的车库或工作地点的停车场趴窝。每天用之通勤的车平均开车时间也不会超过两个小时。不用之通勤的车平均每周也就开几个小时。好些家庭夫妇还各有一辆车。如果自动车通行以后,由于没有司机,Uber类型网约车价格必将大幅降低,而且随叫随到,大小奢俭由人,是不是很多的家庭首先会放弃第二辆车?习惯以后,很可能第一辆车也放弃呢?须知放弃拥有私家车,可是可以省掉汽油、保险、洗车、维修、找停车位还有违章交罚款等等好大一系列的开支和操心哟。车库也可以省出来改建比如书房卧房了。而且,上班路上的比如来回两个小时,不用把住方向盘,干什么不好呀?好处实在太多。

    电脑还可以计算安排共乘,在公路上同一方向的车可以在电脑控制下像火车一样地列队行驶。每一辆车之间比如根据行车速度/路况间隔20~50公分。当你需要离队时,前后车自然会给你让出足够的空间。通过路口时,当然也是结队共行。自动车占绝大多数以后,很可能红绿灯都不再需要。上下班高峰时的车辆拥堵程度,应当至少比现在轻一半。不过也许还不能完全消失。

    最后,汽车都会变成被互联网物联网全盘操控的无线机器人(Fly-by-wire robot)。它会比人类司机驾驶的汽车灵巧太多。因为它可以有八双眼睛八对耳朵,GPS无线联网,它知道前后左右所有或至少大部分汽车的动向。掌握整个城市的交通状况,它有天眼呀。它不会疲劳/打瞌睡,不会分心听电话、听新闻/音乐、也不会喝酒或因为失恋而情绪不稳。

    经由改善了的传感器提供的大数据正在为以前阻碍了机器人发展的许多工程问题提供解决办法。尤其是,完善的三维立体地图的创立让汽车自动驾驶不再困难。不要以为谷歌的自动驾驶样车只是在公路上转悠积累经验里程。它的更重要任务是扫描然后绘制立体地图,尤其是在复杂多层立交路口的立体地图。(Guizzo, 2011)

    最后,你如果赶时髦,买了一辆自动驾驶车,不用的时候,应当可以租出去,它就会像忠实的奴隶一样自行为你劳动,为你赚取收益,而且从不抱怨。

    下表是笔者根据各方消息对自动驾驶车辆上市日程的一个综合估计:


时限

功能

现在

各种辅助驾驶的信息提醒,但没有真正的自动驾驶功能。

第一阶段:13年之内

(2018-2020)

信息提醒之外+自动刹车,加速,减速,换线

关键综合功能标志=能在高速公路上自动行驶

第二阶段:4-8年之内

(2021-2025)

可以在普通公路和城市道路上自行加速/减速/刹车/换线,能自行通过各种复杂路口。总之,可以完成现在人类司机做的一切。但车上一直有方向盘,人类司机必须永远在场,并可随时取回控制权。

第三阶段:

(2025-2030

真正的无人驾驶车上路。车上可以有也可以没有方向盘。司机不再必须。法规、信号、保险等配套环境全部解决健全。

最终阶段:

          (2030+)

自动驾驶汽车逐步取代有人驾驶汽车的绝大部分存量。最终,有人驾驶汽车将像现在的猎枪一样,成为罕见的奢饰品。

       美景描述完了,现在笔者来描述可能不那么美好的另一面,即当人们保有私家车愿望大幅下降以后,非常可能会产生的系列连锁后果。

    大家都知道,作为最终消费品,住房永远都是人类最大的开销和财产。大体说来,作为凝聚下来的财产,住房要占到个人财产的80%,日常开销的三分之一。而汽车则占个人财产的10%,个人日常开销的10%。其它的所有固定财产,也就是八大件之属,占财产的剩下10%,开销则也是10%吧。剩下的40%左右的开销,则由吃穿和社交旅游之类的占据。

    在汽车行业的就业人口,因国而异。大体上能占到一国就业人口和GDP的5-10%。总之,比制造其它所有耐用消费品的行业的总和都会多或至少相当。

    本人认为,这将是智能科技在触目可及的时限内,对人类经济与社会的最大冲击。原因无它,是因为这个行业占据了人类生产力的一个太过重要的比重。

    自动驾驶汽车流行起来之后,汽车及与之相关的大量行业,都会急剧地萎缩甚至消失。这会在全球造成极大的一波至少涉及数千万人的失业潮。应当是人类转向后工业社会之后的智能社会的一个关键里程碑。

    现在,遍地开花的汽车自动驾驶项目,已经进入了大规模的广泛路试的阶段。一般估计,少则两年,多则五年,自动无人驾驶的私家车必将上市售卖。这件事情的经济、社会后果,已经有一些分析。政治后果则还没有见到认真的分析。

    首先是汽车的销售商和维修商的生意绝对大减。那些自动驾驶车辆应当绝大多数都被那个时代的Uber类自动驾驶车辆公司集体成批购买。肯定用不到那么多零售商了。与此同时,那些车辆大概也都是电动的了,比起内燃机汽车,简单无比,实在也没有多少可坏可修之处了。可能要修的应当主要是电子部分了。那些机械师可要下功夫改行当电脑工程师了哟。

      然后是遍布西方发达国家和东方新兴国家的汽车制造公司的业务也必是大减。除了还会继续生产争抢来的数量少得多的自动驾驶车辆的生产能力之外,至少一半的业务量将消失无踪。就汽车行业集体而言,大家争抢来的上吊绳,终于会把大家的家人吊死一半甚至更多。

    然后是石油/钢铁和其它原料供应商、零部件生产商、上游所有相关企业都必会相应减产。

      当然也会有一些新产业催生。比如坐在车上不用把持方向盘,就可以干很多的其它的事情,这里就有很多商机。

      比如以无人驾驶车为底盘,那个连带住房的房车应当可以大行其市。因为它可以夜夜自动驾驶到新的旅游景点,你在车上睡一好觉,就到了新的景点。这将是何等的惬意合算?

      说完了私家车再说一点载重运货车。

    据知,在澳大利亚的矿山里,在封闭的环境中,已经开始试用无人驾驶大型车辆运输矿物。省去人工,可以日夜工作,不要休假,不会罢工,好处真是太多呀。

    以后如果所有的重型货车都无人驾驶,那又是什么后果?可以想象吧?

    据我所知,中国的物流业总额达300万亿¥以上,从业人员超3000万人,相关行业大到不可思议。如果这些行业的司机都全部消失,会是什么后果?是不是细思恐极?

    如果真的相信这些司机和他们的上下游所有配套人员都可以在比如娱乐,保健,旅游等不会受到直接冲击的行业找到工作,是不是过于天真?须知如果那么多人失业,他们的娱乐、保健、旅游等开支,也都会没有着落哟。

    最后,可能军队也会组建无人坦克/战斗机兵团,几百辆上千辆坦克/战机阵上厮杀,却不会造成一个人伤亡?那会是什么局面?会不会大大鼓励/方便战争的发生?听说有人要提议禁止使用军事机器人?那首先得把美国正在中东大量使用的无人机撤回来拆掉哟。


第三节  20年后的很可能的社会结构

   将来社会(20年,最多也就是30-50年以后)的基本结构很可能就是:一小撮(大概就在总人口的10%左右,不会超过20%)有能力操控电脑和其它新科技(比如生物基因工程,纳米科技……)的知识分子加上一大批有他们操控的电脑和机器人/自动系统居于社会的顶端。然后是比他们本身人数还多许多的的为他们服务的人群。然后就是逐步增长,从15-20-30%一直增长到50%以上的无业人群。

    这些占总人口10-20%的新时代的赢家被一些人称作超级人类甚至神人。关于他们的状况的讨论本文不想展开。本文还是更想关注那大多数的可能不是赢家的民众的命运。

    早在1989年,本人500页的大学博士论文的题目是《自1950年以来,干部集团在法国的扩张》。世事难料,没想过了不到30年,这个集团,尤其是它的中下层就开始了萎缩。

    本人现在正在开始研讨的课题,似乎应当是:《自1970年代以来西方发达国家的中产阶级的萎缩》。用通俗的话说就是:“西方发达国家的中产阶级,都到哪里去了?”

    法国人悌贝利在其爆得大名的《21世纪资本论》中,已经明确地观察到现代西方社会的两极分化。他的基本结论是,这是因为资本盈利增长超过了劳动收益增长。他的解决方案是在全世界无死角地对资本盈利征税。他好像没有论及本文强调的高科技淘汰普通就业,赢取暴利的问题。

    硅谷工程师的起薪就是12万。而美国的工资中位数仅有3万多。美国1%高收入的门槛是40万左右,2%门槛是30万左右,3%是20万左右。5%是10万左右。那么所有的硅谷工程师,或IT行业的工程师,或所有行业的工程师,或所有行业的有大学硕士学历以上的专业技术人员,都能进入5%?大学本科/专科毕业,现在已经不是进入精英阶层的可靠门票了。

    继农业时代之后,是工业时代。再之后是服务业占多数的后工业时代。但是这三个时代有一个共同的特征,就是都属于劳动时代。劳动人口,始终都占着成年人口的绝大多数。不事生产的人(无论任何原因)始终只占成年人口的极少数(百分之几)。如果到了10%,(现在欧洲大陆的情形。)大家都觉得非常的糟糕,一定要竭尽全力挽回。下一个时代的特征,我们是不是可以概括为后劳动时代

    这些很可能将日益庞大的不劳动人口的生存状态,精神状态,社会地位,社会权利的研讨,统统都还没有提上议事日程。看到现在欧洲10%左右的失业人口已经造成的广泛社会问题,总觉得前景难捱。这么多的人,这么多的时间,无所事事,真的难以设想。到时应当也还会有许多现在无法想象的业态/生态出现。

    在 20 世纪 50 年代,有一天,Ford 公司的 CEO Henry Ford II 和当时美国汽车产业工会主席 Walter Reuther 参观位于 Cleveland 的一家新的引擎工厂。Ford 当时指着一排机器说道:“嘿,Walter,你觉得这帮机器会给你付工会经费吗?”工会主席在此时这么回答道:“嘿,Henry,你该怎么样让这些机器买你生产的车子呢?”

    看见人家介绍一篇小说名叫《一棵倒长的树》。说的是有一个人从他家后院的一棵倒长的树上爬到另一个世界。那里人工智能非常盛行。一座城市里唯一的老板把他的工人都陆续解雇,全部换成机器人。最后城里的人全部饿死,而老板的产品也完全卖不出去。老板追悔莫及,自杀谢罪。城里只剩下老板的儿子还活着,向小说的主人公讲了这个故事。

第四节   主权与安全问题简述

    其实,互联网提出的新问题,除了前面已经相当详细讲到的经济方面的可能导致海量失业和加剧两极分化两个问题而外,还有至少主权安全两个方面的重大问题。

    西方的互联网大公司,似乎都在美国注册,但同时都是跨越国界的世界级大章鱼。它们的分公司遍布全世界,尤其是在北美、欧洲和东方。它们把器材生产基地放在东方,以攫取廉价劳动力的利益。它们把盈利通过分公司之间虚开根本无法查清事实的内部发票的方式,跨越国界,转移到各种税务天堂。比如谷歌把欧洲的业务总部放到爱尔兰,就是因为该国给予谷歌一个极低税收的特权地位。现在这个特权地位受到欧盟质疑,正在打涉及多少亿$的补税和罚款的官司。

    由于互联网业务基本上都是虚拟的电子的,海关之类的国家主权机构对它们完全没有管控力。无数的国界对它们完全是形同虚设。除了中国敢于把那几个巨头拒之门外以外,全世界的虚拟市场其实都是几家美国公司瓜分的私家园地。

    这种情况,对无数的国家主权私人主权都造成严重侵害。比如你只要使用GPS,无论你是哪国政要或平民百姓,你的行踪在谷歌眼里就是完全透明的。你的电邮、电话、短信、照片、视频……总之一切传上网络的东西,对它们而言,都是囊中之物。世界上只有一个互联网,你有办法不用它们的服务吗?那你是不是得回到石器时代,靠专门信使传递手写邮件,才能确保隐私?

    要想摆脱美国的全面电子控制,在这个世界上,中国已经是做得最好。大家都知道中国有自己独立的互联网生态系统,在除中国以外的全世界都具有垄断地位的谷歌脸书推特都无法自由进入中国。在这个受保护的环境中,才成长出了中国自己的三大网络巨头百度阿里腾讯,合称BAT。很多人都在批评说中国的互联网是局域网。但是这个局域网足够大,足以独立生存。若不然,整个世界岂不都是美国硅谷那几家互联网巨头的盘中餐?中国还拿什么资本在来势汹汹的数字革命时代自主自立?

    中国还有自己的北斗卫星全球定位系统,正在发展自己的量子通行卫星系统。大部分的电子器件中国都能自己生产。剩下的少数几个尖端应当在不久的将来都能攻克。就是操作系统好像还是没有办法。现有的三大系统,无论是苹果的OS、微软的Windows还是表面上无主的Linux,其版权或技术核心都掌握在美国人手中。中国人并没有能力完全另起炉灶。真另起炉灶也无法与外面的大部分世界交流,也会得不偿失。

    这两个问题因与本文的经济主题有一些距离,限于篇幅,轻轻点到为止。

第五节   地缘政治影响

   相信大家耳熟能详,现在有一个新的流行词汇叫做数字鸿沟Digital Devise)。它的意思是,在发达国家和不发达国家之间,信息/数字/智能经济方面的发展差距越来越大。用本人习用的西方/东方/南方和西方+东方=北方/东方+南方=非西方的划分,这个鸿沟就横亘在北方和南方之间,而不是西方和非西方之间。

    在数字领域,西方,其实基本上就仅仅是美国,还是世界首屈一指。但是美国以外的西方都几乎不值一提。而在东方,那是集体的强大,日本+三小龙(香港不算)+中国都是大鳄。其中中国是唯一可以和美国相提并论的超级大鳄。

    右图把IT领域世界竞争的这种基本局面描述得很好。""

    上榜的7强中,6个都在平流进取,只有中国的份额火箭般飞升。请一定注意:左面的标尺六家合用,右面的标尺中国专用。若不然,它们(包括美国)都会趴在中国的脚下。中国加上东亚其它国家,占到全球75%份额。欧洲和美国只能分享剩下的不到25%的份额。有意思的是,韩国超越了日本。连那么落后的越南都能分到不小的一杯羹。

    但是在整个南方,大概就是印度会有一点软件业的例外,在整个数字经济领域,可以说是一片荒原,一无所有。为什么会这样?好像又不方便说。但是事实就是如此,而且完全看不到改变的前景。

    请一定不要把数字科技的使用和生产混为一谈。南方的所有国家都会有互联网的。但是这些互联网设备和核心软件都是由北方国家提供。这就是数字鸿沟的本质意义。在使用率方面,差距是可以缩小的。但在设备和软件的供应方面,差距恐怕是趋于无穷大的。

    由于数字经济/人工智能在现代工业的整体发展中的越来越大的核心意义,这个数字鸿沟会有十分严重的外溢效应。结果也许是,西方→东方→南方的既定雁形发展序列可能失灵。因为制造业的用人规模越来越小,对人力资源的素质要求越来越高。现在开始从中国转移到东南亚和印度的制造业,最终可能没有太大的机会接着向非洲转移,因为它可能会趋于规模过小而对仅剩的员工的素质要求过高。

    靠石油经济致富的全球十几个国家(包括俄国在内)的GDP,都可能因为数字经济自动化尤其是汽车驾驶自动化(还有汽车电动化)的发展而受到严重的打击。对西方最可能因此而明显受到的威胁来自于中东。那里本来有超过一半的国家因石油而富裕,至少是不贫穷。以后石油价格若是大跌,或石油干脆就采完了,这些国家将风光不再。很可能因此激化的意识形态和移民风潮,都能让欧洲承受比今天还要大得多的压力。

    自动化越普及流行,廉价劳动力的意义就越小。全球化就真的可能倒向。第四世界(撒南非洲)就有可能永远得不到现代化的机会。两极分化在一国之内和世界范围内都可能加剧。

    根据最新数据,美国的制造业几年以来,已经开始复苏。特朗普上台要搞逆全球化,可能至少一部分生逢其时。因为自动化智能化的确可以降低发达国家和发展中国家的劳动力成本差距。只是回归的企业定会竭力自动化智能化,用工恐是不多。当然那总是比不回归强。


第五章
对策建议

第一节 核心问题:在人工智能领域,应该全速还是减速前进?

第一小节 绞索困境

    现在我来解释什么叫笔者观察到的绞索困境:各国在争抢人工智能/机器人产业的制高点,可能类似于争抢制造能把(至少相当一部分)人类的生存机会绞死的绞索的订单。如果你不抢或抢不到,你就会先被别人绞死。如果你抢到了,你就可以后被绞死,甚至绞死别人而自己活下来。武侠小说中常用到的一句话叫“死贫道不如死道友”。这里就成了“与其让别人绞死我,不如我去绞死别人。”但是这件事究竟符不符合全人类的利益?符不符合绞索生产厂家/国家自己的长远利益?还是个疑问。

    还要补充一句:绞索只是个比喻,不是真要绞死任何人。那是刑事犯罪。如果绞死太多人,那是反人类罪。这里的意思当然是:“如果把太多的生意抢到自己手中,会让别人无以为生”。

    如像本文第二和第三章所述,由于IT/Linux/人工智能/机器人产业的野蛮生长,人类的整体经济规模可能很快就要真正开始萎缩,人类的就业总人数也可能很快就要真正开始减少。人类社会在国内级别和国际级别的两极分化都可能难以遏制地继续发展。后碳社会可能远比人们预见得早地开始。巴黎气候大会的减碳限温指标可能2050年以前就可以达到,远远不需要等到本世纪末。

    这个最可能的转折点就是自动驾驶汽车流行起来的时候。因为那个时候,最可能出现人类进入工业社会以来最大的一波失业潮。到那时很可能人类也看清楚了,以后还可不可能创立同样多或更多的新工作机会。一切都在加速演变。不用再等太久,应当就可以看清未来大势。

    经济必须增长,而且必须永远增长,是现代社会的又一个教条。似乎一切困难都可以由增长而解决。而停止增长则会带来一切困境。但是如前所述,这个几百年来不停的增长时代可能真的就要告终了。不是因为资源瓶颈,也不是因为生态崩溃。而是因为市场饱和。这个饱和不是因为每一个人的需求都已经得到满足,而是因为有钱的钱包不知道还可以买什么。同时,还需要什么东西的钱包,总是太空。被机器人换下来的人的钱包变空了。但机器人不要钱包。我们恐怕真得开始认真考虑,如何在一个不再增长的世界中生活。

    我们现在应该做出的一个判断是:看到人工智能/机器人把人类员工一批批地置换下来时,人类应当欢欣鼓舞还是忧心忡忡?我们现在需要作出的一个决策是:应不应该继续鼓励人工智能/机器人以尽可能快的速度继续自由任意发展,还是应当对这个发展进行一定的约束规范?


第二小节
对策核心目标

    马克思曾有一个伟大的断言就是,资本主义社会的基本对立是资本与劳动。下一个新时代还会出现两个新的基本对立:高级(创造性)劳动与不高级(非创造性)劳动的对立。劳动与不劳动的对立。

    高级劳动的确在扩张,但一是它的门槛太高,不是大多数人做的了的,二是也需要不了那么多。不高级的劳动永远都不可能全部消失,但是的确是在不断地萎缩。自动化的机器大大地压缩了工人的数量。电脑则大大地压缩了中低级白领的数量。最终结果就是非常可能创造出一个日益庞大的不劳动阶级

    前面已经说过,头两次工业革命的成功,最重要的诀窍是它们简化了劳动的复杂程度,为广大的普通民众提供了就业机会,造就了广大的消费市场。

    现在这个第三次工业革命使得简单的劳动大部分被机器取代,剩下的劳动机会大部分要求很高的智力和教育程度,而且数量还有限。广大的普通民众失去了安身立命的经济基础,如果只能靠转移支付供养,然后在VR/AR中生存,前景实在堪虞。

    如何让这个新的技术革命对就业市场的冲击显得尽可能地柔和,应当是各项具体政策核心目标。这是中策。如果有办法让整体的就业市场在新的形势下还能继续扩大,那才是真正的上策。

    如果无论如何,前面说过的后劳动时代还是徐徐降临,对策的第二号目标就应当是如何让日益增多的不就业人口能够保有一个正常甚至体面的生存状态。这当然是下策,但是必须未雨绸缪。


第三小节
 宏观对策动向

   看到一个西方学者提议,联合国应当建立一个和国际原子能组织类似的,叫做 国际人工智能组织,希望它为了人类整体的长远利益,来对人工智能的野蛮自由生长,提供一些约束和规范。

     “201715日到8日,在Benificial AI (人工智能)  2017 会议上,1980名来自产业、学术和研究界的AI相关人士共同签名,提出了确保人工智能健康发展的 “ 23条原则 ”。参与签名的业界大佬们包括了谷哥公司研究总监、苹果公司语音识别人工智能项目技术总监、FaceBook人工智能研究总监、特斯拉公司CEOSkype联合创始人、丰田研究院CEO等一大群商业技术人士,还有800余名国际人工智能领域的著名学者专家”(摘自网络新闻)

    今年2月16号,欧洲议会通过将《机器人法》草案送至欧盟委员会讨论,由其决定是否正式起草机器人法案。这似乎是人类第一次认真考虑为机器人立法。但是这个动议十分地保守。仅是要求明确机器人的定义,要求为机器人出事故投保。否决了机器人税,也不同意给予机器人不同于物品或财产的(比如类似于公司法人的)法律身份。看来,人类还要等待人工智能/机器人提出更严峻的挑战以后,才肯对它们有更大的尊重。

    美国著名IT公司特斯拉的老板马斯特已经私人出资1亿计划融资10亿来建立一个名叫OpenAI的机构来研究人工智能的安全问题。这事是公众利益,由私营机构主导的确并不合适,就是应当由前段提到的国际人工智能组织出面来主导。

    中国是一个强政府的国家。中国的人民也是一个仰望苍天的人民。这种事情,当然国家更应该出面。首先应当有一个总路线,是大干快上,还是稳步发展。好像国家的宏观经济/财政/货币政策一样,先要有一个偏紧还是偏松的大方向,然后才是具体的政策。

    现在知道的国家计划,比如中国制造2025,十大领域,第一是信息技术,第二是数控机床和机器人。一言以蔽之,就是全力以赴,争夺IT/AI制高点。本文的中心思想当然与这个精神有距离。希望有关各方明白笔者的拳拳之心,是想补苴罅漏,张皇幽眇。没有和任何方面掉杠的意思。


第二节 
具体对策

第一小节  开拓就业的积极方向 

    如何应对这个数字革命大变局,已经有许多讨论。本人不想大段重复,只能简要复述。

    第一个最要紧,最有效但是也是以邻为壑的办法,就是竭尽全力,争抢以人工智能技术为核心的一系列高新技术的制高点,力争在任何一个重要方面都不会被别人甩下车去。最好领先,其次也要维持竞争力,做到能在该领域分一杯羹。至不济也要保有学习引进的基础实力,不要出现拍马也赶不上的局面。除了AI/Robot(包括自动驾驶汽车),其它新兴行业比如新能源、生物科技、新材料样样都不能落伍。

    第二个要特别主意的行业是医疗。这个行业会有大大的发展。物质问题解决以后,健康与长寿将是人类的最大追求。在这个行业中,有相当一部分,主要是医疗服务,要用到大量的手工人际交流的能力,是人工智能的短板,应当在相当一段时间内还会增加人力需求。如果能率先开发出世界领先的专家医生系统,超过IBM的Woston,那就了不得了。

    第三个次要紧的就是努力开发那些一时半会还不会被智能科技和其它高新科技威胁到的服务行业尤其是各种工匠、各种需要身体/手臂/指头灵巧度的工作,在电脑机器人学会干这些之前,似乎还有相当大的发展余地。有报道说,这类工作,仅中国就还缺1000万个员工。但是这相对于中国的数亿就业人口,也还是一个局部。

    第四个就是娱乐业了。这里有很多职务都会用到AI还难以攻克的人工创意人际交流。而且即使在后劳动时代也应当会继续发展。因为物质需求、健康需求基本满足之后,这一定是人类最基本的第三需求。那个RV+AV,也一定会在娱乐方面大有前途。但是一想到让人类沉迷其中,出现比现在的(玩手机)低头族更甚更傻的头盔族,就觉得不寒而栗。

    第五个建议就是努力开发人机合作模式,而不是机器取代人模式

    比如现在几乎所有高级脑力劳动,包括最具创意的绘画、雕塑、作曲等艺术活动,都开始出现电脑协助的方向。可以说在今天,你的工作如果还用不上电脑,那真是大大地落后于时代了。

    在这些高智力劳动的领域,在绝大多数情况下,电脑都只是人类的助手,哪怕是绝对重要的助手(比如电影摄制中的特效生成),但它们绝不是主人,绝不会取代人类的主导地位。

    比如笔者正在写的文章,当然是在电脑上写的,所用的资料可以说全部都是从网上查来。但本人的主导地位绝对没有动摇。那些都是工具,虽然是极为强大的工具。

    机器人除了可以把人换下来的大家一直谈论的一类,还有另一类叫做co-pot。不太好译成一个简单的汉语单词,其意思就是与人合作的机器人,或者直译叫合作机器人?它们的基本功能就是增强人的体力。比如让残疾人用脑电波就可以操纵机器肢体。比如让寻常的人可以搬运重物,大步如飞。发展到极致就是科幻电影中常可看到的机甲。那可是比坦克还要厉害得多的未来军械。但它还是要人来操控,属于co-pot的范畴。

    分享经济Sharing Economy),众筹Crowd Funding)、众包Crowd Sourcing)等都可大力提倡,但也要努力规范。不然就会出现前面说到的野蛮生长,冲击正当行业,产生不了GDP收不到税等弊端。

    其实好多的机器人在技术上已经可行,但是在经济上还不可行。就是说,由于廉价劳动力的充足供应,由于机器人成本尚且高昂,使用机器人在经济上还不合算。这种阶段如果能够长一些,就是说,如果工资不是上涨得过快,或者机器人的成本下降得不是那么快,(尤其是假设政府方面有意制造税收方面的阻力。-下面有进一步论述。)那么资方使用机器人顶替劳工的冲动就会小一些。说起来,还是对劳工有利一些。如果劳动力供应不足,或政策压力下(比如最低)工资上涨过快,或有其它问题(比如劳工运动过于频繁), 机器人的成本自由下降,自然会催动资方加快使用机器人替换人力。根据摩尔定律,电脑的计算能力不断上升,价格不断下降,软件则越来越精巧智慧。而人的工资总是越涨越高。工资越高,工资涨得越快,工作越简单,被机器人取代的风险就越大。这是一个宿命似的彼涨此消的过程。面向未来,人类好像没有胜算呀!


第二小节
 普遍收入和向机器人征税

    新情况:今年的法国大选,法国社会党初选出第一个为不劳动阶级争取利益的阿蒙为总统候选人。他的第一政纲是要实施普遍收入750欧元。向所有的人发放。

    以前笔者一直以为这是一个匪夷所思的想法,觉得它铁定有两个无法解决的漏洞:养出大量的懒汉和哪里会有那么多的钱?近来因为听得多了,同时考虑到人工智能的进一步发展可能造成海量失业,就去查阅了一些文献。如今笔者的想法是:现在谈这些还太早。但20年后,当失业率因为比如人工智能大发展而达到比如20%以上以后,这个普遍收入就不再是天方夜谭,而可能是必须的了。

    至于会不会养太多的懒汉?本人现在明白,现行的对低收入提供众多补助,一旦收入提高就要取消补助的办法会造成一个补助陷阱,让吃补助的人因害怕失去补助而不愿意出去做工。这个可能更养懒汉。

    有了这个普遍收入,大部分的社保都会取消,最低工资标准也会取消,高收入的人得到的普遍收入还会被累进的所得税的最高一档收回相当部分。同时社保机构必可裁减大量员工,因为仅按人头发放,各种复杂的申报核查工作都可以取消。其实增加的社会开支远不及以前想象的多。

    多需要的钱从哪里来?传统办法有一大堆,比如对奢饰品提高税率。对收入提高累进税边际税率。提高资本利得税、公司所得税,对高档服务比如五星级酒店各种会所征重税。

    更新颖的就是对机器人,对所有置换了员工的算法程序征税。还有就是纠正网上服务太过无偿的偏向,设想各种可行办法,鼓励收费服务,并从中收取税款。概括起来,就是向机器人征税,向太过便宜的网络服务征税

    有些人会说,你怎么那么关心国家的税收?你觉得交得太少呀?笔者想说的是,国家承担着很大很多的社会责任。比如向弱势群体落后地区转移支付。以后如若因为自动化造成海量失业,这些肇事行业如果不开始学着习惯把一部分收益交上去,有一天国家真的可能为维持这些失业者的生存而揭不开锅的。

    而且笔者发现,那些税如果国家不收,作为GDP的一部分就会消失。民众当然可以得到商品或服务的价格低一点的利益,但是其弊端本文第三章已有大量分析,此处不再重复。

第三小节  人口政策、教育政策

    西方的人口政策可能需要改变。不必鼓励生育。因为会有越来越多的人口找不到工作,而不会出现劳动力不足的宏观现象。

    中国的人口基数极大。在这个新的数字革命面前,似乎也不必担心劳动力不足的问题,恐怕更值得担心的还是就业问题。前三十年强制进行的计划生育现在回头看是过头了一些。现在放弃严厉控制也算合适。建议不必很快改成鼓励生育的政策,为将来的就业机会减少预留余地。

    现在已经开始出现教育过剩的现象。就是普通大学的毕业生,很大一部分都找不到专业对口的工作。最后只好跨行业去从事一些并不需要很专业知识的一般工作。现在好像要到硕士以上的学历,才能保证从事专业对口的脑力工作。今后的教育体制是不是应当进一步朝着双轨制的方向发展。不用浪费钱去学那些十九用不上的脑力劳动专业知识,还不如学一些使用身体手臂手指技能的,不易被电脑化的专业知识,还更能保证自己一生的饭碗呢。

    终身教育要提倡,转换工作要提供培训的机会。今后工作的更新换代可能越来越快,而学新技能的时间可能越来越长。两者对冲,最后的结果可能是被淘汰下来的人根本没有足够的时间或金钱去学习新的技能,而且更可能根本没有那么多新的技能需要他们去学习,新的工作岗位需要他们去填充。但是在这方面做努力,总是可以降低转型的压力。


第三节
  意识形态和政治制度的可能发展?

     一个社会要安定,关键是要把占人口大多数的普通民众安顿好,让他们能够安居乐业。如果无业可乐,他们就很难安居。如果实在是无业可乐,就必须找到仍然能让他们安居的新方式。

    大批的民众无业可乐,这是一种在很长的历史中没有出现过的情况。

    但是在传统的金字塔社会中,庞大的底层可是都要劳动的,并没有大量的吃福利阶层存在。翻遍世界历史书,唯一可以找到的存在大批吃福利阶层的先例,很可能就是罗马共和国的晚期,格拉古兄弟当保民官的时代。那时的罗马城中曾经出现过靠殖民地掠夺来的财富养活的大批只关心政府发的面包和免费剧场演出的罗马贫民。他们曾两次左右过政局。最后的结果是共和国崩溃,帝国建立。

    如果普世价值像万有引力一样是天授的真理,西式民主的确可以很容易地由卢梭的人民主权的学说用数学推导出来。从政治实践出发,可以运行的西式民主则只能建立在占主导地位的中产阶级的基础之上。在近现代的西方历史中,当这个中产阶级还不占人口多数时,西方实施的是有限制的共和民主。二战以后,在那光荣的30年中,西方建立起了橄榄形中产阶级占多数的社会结构。笔者认为,这就是西式普选民主在二战以后鼎盛的经济和社会基础。

    但是金字塔社会其实很可能是万国万古历史的常态,西方现在的橄榄形社会很可能是例外,很可能并不能长期维持。如果本文推导的基本事实无误,由人工智能主导的下一阶段经济变革推演出来的社会变革,将会让西方社会由橄榄形重新退化为金字塔形,而且是前所未有(除了罗马共和国晚期极为罕见的例外)地含有大量无工作阶层的新金字塔型社会。

    面对这种前所未有的大变局,我们东方,或者更明确,我们中国,能不能走出一条与西方不同的,更文明的出路?这的确是一个很有意思的问题。

    笔者有这些初步想法:首先,中国/东方由于其智慧底蕴,也由于政府至少是歪打正着的隔离政策,中国发展起了自己的数字实力,不会在这场数字革命中被淘汰。这很值得骄傲。但是,中国人也一样可能被国内的数字鸿沟拦到两边。不过,中国有强大的政府,有可以受到管控的资本利益集团,有匀称的人民智力构成,也有“不患寡而患不均”的社会传统,还没有西式的一人一票的只能适用于橄榄形社会的政治制度。有这五条基本特征为倚傍,笔者以为,至少是期待,中国还真可能比西方人更好地应付这个数字大变局。

    大家都看到,西方的制度现在进入了困顿期。持中左或中右的中间立场的民众在减少,持极左或极右观点的民众在增加。这就是社会结构重回金字塔形所必然导致的政治后果。

    西方的传统意识形态现在已经开始受到较大的有形冲击。最明显的代表还是美国和欧洲出现的日益公开的对各种政治正确抗议。政治正确占据的道德高地至今还相当稳固。

    如果,也应该是,这些极端势力在现行体制和意识形态框架内并不能为西方找到出路,那西方就会先出现改变意识形态,然后出现制度上的根本变局了。

    这个人工智能的发展在可以预见的数十年内,会导致怎样的经济和社会变化,已经有很多讨论。本文也是这种讨论的一部分。这些很可能发生的经济和社会变化,又会导致怎样的意识形态和政治形态的变化,这个题目则还极少有人讨论。

    笔者这里引述一段别人的观点:由于现代科技发展/大数据积累速度太快,早就远远超过了现行民主制度能够及时反馈/调整的范围。民主制度不是因为道德上有缺陷,而是因为反映速度不够快而失效。试问现在互联网是不是关系国计民生无处不在? 你有为它现在拥有的形态投过一次票吗?任何政府或国际机构主导过它的重要发展吗?首先,这样的权威性的国内或国际组织存在吗?

    比如如本文认真论述的互联网大量服务从Linux发端一开始就免费的问题,有任何民选机构讨论过其利弊吗?是不是那一开始不过数十个人的Linux精英自己决定,然后就利诱全世界遵循的?全世界的政府是不是对此完全无能为力?那些精英们的能耐是不是早已超出了任何政府的管控范围?记得美国前总统曾请求苹果总裁库克把手机工厂迁回美国。库克毫不客气地回答道:“那些工作永远不会回来了。”现在他们不也对新总统特朗普的要求爱理不睬吗?

    在无数科幻电影中出现了无数次的电脑统治人类的场景,相信就是会有也还相当遥远。但超级人类在电脑+机器人的协助下统治人类的场景,离我们可能就是相当的近了。像我们这样的在西方二战以后婴儿潮一代,中国人解放牌的一代,都很有机会在暮年目睹这个时代的来临。我们的儿女一代,那就更是必定恭逢其盛或在劫难逃。他们是有机会加入超级人类的行列,还是会成为超级人类的附庸劳动者,还是更糟糕地沦为无用人口,就看他们的天赋、努力和机遇,还有就是人类的各个群体和整体,对这些变迁的矢量加权以后的综合应对效果了。

    笔者最后还要慎重声明。本文的一切推测都是假设。不一定靠谱。而且本人相信历史并非完全宿命,它可以有多重的可能发展路径。提出一些可能的不好前景,可以是对人类的警醒,让大家有更多的意图和机会去努力另寻一条更好的前路。


尾声:数据主义概述

    
   最近有本风靡全球的书,名字叫《神人:未来简史》(
Homo Deus:A Brief History of Tomorrow)。作者是以色列新锐历史学家Yuval Noah Harari。这本书的脑洞开得极大,骇世惊俗的言论比比皆是。与他手中挥舞的核武器相比,本文使用的都是常规武器。

    为了让大家明白,类似的话题,本人说得真的还是极有节制,也是为了想让诸位大开一回眼界,下面本人打算引用该书最后一节关于数据主义的部分论述。(蓝色标识。)头脑风暴(brainstorming)就要来临。大家请坐稳,系好安全带,不要把小心肝给颠出去。
    宇宙是由数据组成。所有的生命体的实质都是处理数据的算法。

    任何现象或实体的价值就在于对数据处理的贡献。

    依据传统,数据只是智力活动这个漫长过程的第一步,我们要把数据转化为信息,信息转化为知识,最后把知识转化为智慧。但数据主义者认为,数据的流动量已经大到非人所能处理,人类无法再将数据转化为信息,更不用说转化成知识或智慧。于是,处理数据的工作应该直接交给能力远超人类大脑的电子算法。人类不需要去理解数据的意义。算法会给出一切答案。

    像资本主义一样,数据主义开始也是一种中立的科学理论,但现在正在变成一种被声称为有权决定是非的宗教。 这个新宗教的最高价值就是息流”。 根据数据主义,人类的经验并不是神圣的,智人不是创造的顶点。人类只是创造全能物联网的工具。而物联网最终可能从地球上传播到覆盖整个星系甚至整个宇宙。 这个宇宙数据处理系统就像上帝一样。 它将无处不在,将控制一切,人类注定要融入其中。

    数据主义向那些仍然崇拜血肉凡躯的人解释说,他们过分依赖过时的技术。 智人是一种过时的算法。 毕竟,人类相对鸡的优点是什么? 仅仅是在人类身上,信息的流动的模式要比鸡更复杂。 人类吸收了更多的数据,并使用更好的算法进行处理。那么如果我们可以创建一个数据处理系统 ,它能比人类吸收更多的数据,并且更加有效地处理数据,这样的系统不会像人类优于鸡一样优于人类吗?

    人类很少想出一个全新的价值。最近一次发生这样的事是在十八世纪,人文主义革命宣扬了自由平等博爱的震撼人心的理想。 1789年以来,尽管有许多战争,革命和动乱,人类还没有能够提出任何新的价值。 所有后来的冲突和斗争都以这三种人文主义价值观的名义进行,或者以服从上帝为国服务这样的更老价值的名义进行。 数据主义是1789年以来的第一个(全新思想)运动,创造了一个非常新颖的价值:信息自由

    我们不能将信息自由与旧的自由主义的言论自由理念相混淆。 言论自由是给予人类的,并保护他们的思想和言论自由,包括他们的闭上嘴巴和保留自己的想法的权利。 相比之下,信息自由不是给人类的, 它被给予信息这种新颖的价值可能会影响传统的言论自由,因为它赋予信息自由流通至高的权利,而把人类拥有数据并限制其自由流通的权利予以废除。

    智人在数万年前的非洲热带草原中演化,他们的算法并没有被构建来处理二十一世纪的数据流。我们可能会尝试升级人类数据处理系统,但这可能还不够。物联网可能很快就会产生如此庞大而迅速的数据流,甚至升级人类算法也无法处理。当汽车更换马车时,我们没有升级马 – 我们让马退休了。也许是时候让智人也退休了。

    在洛克休谟和伏尔泰的时代,人文主义者认为“上帝是人类想象的产物”。数据主义让人文主义者品尝自己开出的药方,告诉他们:“上帝的确是人类想象的产物。但人类的想象反过来又是生物化学算法的产物。”在十八世纪,人文主义把上帝放到一边,把以神为中心的世界观转变成以人为中心的世界观。在二十一世纪,数据主义可能会把人放到一边,把以人为中心的世界观转变为以数据为中心的世界观。

    在二十一世纪,感觉(feeling)已经不再是世界上最好的算法了。我们正在开发利用前所未有的计算能力和巨大数据库的卓越算法。 谷歌和脸书的算法不但能够准确了解你的感受,还了解你几乎不关注的关于你的其它无数事情。因此,你现在应该停止聆听你的感觉,并开始聆听这些外部算法。当算法知道每个人将要怎样投票的时候,当它们还知道一个人把票投给民主党而另一个把票投给共和党人的确切的神经学原因时,民主选举的用途是什么?而人道主义指挥你:“听你的感觉!”数据主义现在命令:“听算法的!(因为)它们知道你的感觉(由何而来)。”

    但这些好的算法来自哪里?这是数据主义的谜题。正如根据基督教,我们人类不能理解上帝和他的计划,所以数据主义者说人类的大脑不能拥抱新的算法。目前,算法主要是由黑客编写的。然而,真正重要的算法(如谷歌的搜索算法)由巨大的团队开发。每个成员只理解谜题的一小部分,没有人真正理解整个算法。

    随着机器学习和人工神经网络的兴起,越来越多的算法独立演进,改善自己,从自己的错误中学习。它们分析了不是人脑可以容纳的天文数字体量的数据,并学会那些脱离了人类思维的识别模式和策略。种子算法最初可能是由人类开发的,但是随着它的发展,它遵循自己的路径它去的那些地方人类没有去过,没有人可以追随

    我们正在努力设计物联网,希望能使我们健康,快乐和强大。然而,一旦物联网成功运转,我们的身份可能会从工程师变成芯片,然后再变成数据,最终我们可能会在数据流中溶解,就像一块泥土被冲散在激流中一样。因此,数据主义现在对智人的威胁和智人对所有其它动物所产生的威胁一模一样。

    在历史的过程中,人类已经创建了一个全球网络,并根据每一个物种在网络中的功能对其进行了评估。数千年来,这激起了人的骄傲和偏见。由于人类在网络中发挥最重要的功能,所以我们很容易将这个网络的全部成就信誉归功于自己,并将自己视为创造物的顶峰。所有其它动物的生活和经验被低估,因为它们完成的功能远远不如人类重要。如果某种动物(对这个网络)完全没有任何贡献,它就只有死路一条。然而,一旦人类失去对物联网的功能重要性,我们就会发现,原来我们不是创造物的顶点。我们自己所承认的标尺,将把我们放入猛犸象和中华白鱀豚的序列。回头来看,人类将成为宇宙数据洪流中的(曾经有过的)一道涟漪


【参考书和参考文献目录:】

World Bank Development Report 2016.

Word Economic Forum: The Future of Jobs:  Employment, Skills and Workforce Strategy for the Fourth Industrial Revolution, 2016.

The Future of Employment, Carl Benedikt Frey and Michael A. Osborne,  2013.

Citi GPS: Disruptive Innovations IV, 2016

Citi GPS: Car of the Future v3.0 Mobility  2030, 2016

Citi GPS: Technology at Work, 2015.  Citi GPS: Technology at Work v2.0, 2016

Etude Grant Thornton : Futur de lEurope 2015.

Research Centre : America s Shrinking Middle Class: A Close Look at Changes Within Mertropolitan Areas, 2016 .

Homo Deus: A Brief History of Tomorrow,  Yuval Noah Harari, 2015.

Singularity Is Near, Ray Kurzweil, 2006.


来源时间:2017/4/26   发布时间:2017/4/26

旧文章ID:13057

作者

相关内容

Leave a Reply

Your email address will not be published. Required fields are marked *