您现在的位置: 主页 > 资讯 > 人工智能AI > 21世纪最大风险:精英阶层制造大量人工智能
本文所属标签:
为本文创立个标签吧:

21世纪最大风险:精英阶层制造大量人工智能

来源:网络整理 网络用户发布,如有版权联系网管删除 2018-07-19 

【导读】你可能不知道谁是尤瓦尔赫拉利,但你应该听说过《人类简史》。《人类简史》让他在全球一举成名,成为一颗“超新星”,被冠以“青年怪才”,就连比尔盖茨和扎克伯格也将其列为“必读书单”。


7月6日,首届“XWorld大会”在北京举行,尤瓦尔赫拉利发表了演讲。



在演讲中,尤瓦尔提出,随着技术发展我们可以用机器替代出租车司机、医生以及其他职业。少数精英阶层创造大量的人工智能,绝大部分人将变成没有任何经济价值的无用阶层。数以亿计的人将找不到工作,这会产生巨大的社会、政治、经济方面的问题,这可能是21世纪最大风险。


以下为尤瓦尔 赫拉利的演讲摘要:


01 有机生命会逐步被无机生命所替代


人工智能不仅仅是21世纪最重要的科学进化,也不只是我们人类历史上最重要的科学进化,甚至是整个生命创始以来最重要的原则。有机生命根本的规则没有发生变化,与过去的40亿年当中都是保持一致的。


过去40亿年当中,所有生命都是按照优胜劣汰的原则进行演变,所有的生命完全按照有有机化学的规则进行了演化。


因为我们的生命是有机化合物组成,不管你是巨大的恐龙还是一个阿米巴虫,还是一个土豆,还是一个人,都是按照物竞天择的规则,都是有机化合物组成的,我们完全遵守过去40亿年有机化学规律的演变。



这样一个40亿年的规则将会随着人工智能出现而发生根本变化,人工智能将替代物竞天择自然选择的结果终止。


我们的生命将根据计算机智能设计,脱离原先有机化合物的限制,脱离原先有机化学的限制,突破原先的限制而进入一个无机的世界。


在我们有生之年,有可能看到有机生命会逐步被无机生命所替代。


我们会逐步看到有机化学规律和无机智慧性的生命形式并存。原先我们是碳基的,未来生命形式当中,硅基会成为主要的生命形式。这是我们有生命以来的40亿年当中第一次出现的一个重大变局。


02 选择权将逐步让渡给人工智能


在过去的40亿年当中,大家想象一下,所有生命都是局限在地球这样一个行星上面,没有一个生命、阿米巴虫或者任何一种生命形式有能力突破我们这样一个行星(地球),去其他的星系进行殖民。


这是因为自然选择规律让所有有机物、有机体局限在地球中,一个非常独特的环境温度、气候、阳光、重力。


一旦我们从原先有机的生命形态转变成为无机的生命形态,比如机器人,人工智能计算机等,那么环境就没有限制了。机器人在火星上面也可以生存,而人类不可以。


我们在科幻小说或者电影当中看到的一些场景,现在对于人类来说仍然是非常困难的。因为我们这样一个有机生命体在地球以外的外太空是很难生存的,但是计算机机器人、人工智能相对而言,比较容易能够在地球以外的其他星球和星系中生存。



因此,在地球出现生命以来的40亿年,我们有可能突破地球的限制而进入到其它星系,不是人类,而是人工智能可以做到这一点。


另外一个重大突破性的演变,也是在我们有生之年可以看到的,事实上大家已经从某种程度上经历了这样一种变革。


什么样的变革呢?我们人类上万年以来在演变过程当中获得了越来越多的力量,在21世纪的时候人类将会失去这些力量,这些力量将逐步从我们这个物种让渡给人工智能。


比如世界上在发生什么,甚至我们自己生命在发生什么,这些权力或者我们掌控的力量,不管重要的还是不重要的,将会逐步拱手让给计算机或者人工智能的这些算法。


1、人工智能可以了解你的喜好


举一个很简单的例子,比如你下一个月读哪一本书,这是我们生活当中很简单的决定,我们可以有很多的选择。以前很多人会依赖自己的感觉、喜好、口味,或者依赖朋友、家人的推荐。


选择哪一本书阅读,目前取决于我们自己的感觉、喜好、口味,但是进入21世纪以后,我们逐步把阅读什么书,购买什么书这样的权力让渡给了电脑、计算机、算法、让渡给了亚马逊网站。


所以当我们进入到亚马逊未来的书店中,有一个算法告诉你:我一直在跟踪你,我一直在收集你的数据,你喜欢什么书、不喜欢什么书,我都知道。亚马逊的算法会根据它对你的了解,以及它对于上千万读者的了解向你推荐书籍。


但这个仍然处于初级状态,这只是人工智能迈出的一小步,亚马逊网站对你的算法仍然非常有限。


进入到下一个阶段,今天已经发生,我们看到这样的算法越来越了解你。今天越来越多的人看书不是看纸版书,而是阅读电子书,在手机看书或者一些电子阅读器上面看书。当你在这个设备上读这些书的时候,这个设备也在“读”你。


这是有史以来第一次不仅仅只是人类在阅读一本书,当你在读一本书时,书同时也在“读”你。你的智能电话、智能平板在跟踪你,监测你,搜集你的数据,这些设备可以了解到哪一页你会很快地翻过去,哪一页你是慢慢阅读的。


这些数据会给出一些结果:哪些对你来说是无趣的章节,哪些是你喜欢的章节,它也知道哪一页你不读了。当我购买了别人推荐的书,读后虽然不喜欢了,但我还是会告诉每一个人这本书非常好。


为什么?因为我不想丢脸,别人都说这本书很好。要知道这样只能骗了别人,计算机这个算法是不会被你骗的,它知道你读到第五页不读了,或者读到第42页的时候不喜欢了。


2、人工智能可以体会你的情绪


以上是非常初步的功能,下一步它的设备可以连接面部识别的一个软件。今天面部识别的算法很初级,但是慢慢地,它会学会通过看你脸部的表情判断你喜好。


这就跟我们看别人一样,我知道你的表情背后掩盖着什么样的感情,什么样的感觉。通过观察你的面部表情,肌肉的变化就会知道你是在笑还是在生气,或者只是无聊了。


这是人类用来认知情绪的方式,今天计算机也在学会、提高对于情绪的识别能力,甚至比人类做得更好。


他们能够找到面部活动的规律,并且用这种规律来分析和评判一个人目前的情绪状态是怎样。我们把这样的一个软件和kindle这样的电子阅读器结合在一起,kindle能够判断你正在阅读的书对你产生的情绪影响。


你在看书的时候笑了,这时候它知道你笑了;你看到某一章生气了,它知道你生气了。我作为一个作者,经常想象书中的哪一章哪一节,读者会看着看着就笑了,他们会不会理解我埋在文中的笑点,能不能看出我写这段文字是表达讽刺。


我不知道,但是亚马逊会知道。如果87.3%的读者在读到这一段的时候,这个笑话没有笑说明这不是一个有效的笑话。



3、人工智能可以提出适合你的建议


最后一步把设备和生物识别传感器结合在一起,这些生物识别传感器是植入在体内,这不是科幻小说,已经实实在在用了。生物特征传感器能够持续不断地监控我身体各种生物指征。我现在给大家做讲演,我的血压心率是多少,血糖水平或者我的激素水平是多少。


但是你不知道,计算机通过刚才讲的这样的技术能够知道我每一刻血压的变化。


根据这样的数据,我们大家想象一下你正在读一本非常长的书,比如托尔斯泰的《战争与和平》,当你读完的时候,实际大部分情节都忘了,但是亚马逊、腾讯或者百度任何一家公司,它的电子阅读器通过生物识别传感器记录了你阅读这本书的状况。


在我读完《战争与和平》之后,这个设备就知道我是一个怎样的人以及性格特点是什么。根据这样的一种知识和了解,设备不光能够向我推荐书籍,而且也能够围绕着我生活中更加重要的决策,向我做出建议。比方我应该学什么,该生活在哪,应该在哪儿上班,甚至和谁结婚。


人生当中最重要的决定之一,可能就是你的一生要和谁度过伴侣的选择。在选择伴侣这件事上,很多人犯过糟糕的错误,我们主要赖于自己的感觉以及亲友家长的建议。


现在有对情侣,该结婚还是分手?二三十年以后,你可能可以问亚马逊百度、腾讯这样的问题,今天你得靠自己的感觉和亲友的意见。


那时候,亚马逊等公司对于我个人、和我相处的人已经如此了解,你可以问它们的建议。你迄今为止所有的邮件、微信消息、手机通话它都在追踪,看书、看电影时,它在监控你血压心率的变化;你每次约会的时候,它也在监控你约会水平的变化。


它对于你个人所有信息的了解以及伴侣的了解,对几百万人的成功或不成功的伴侣关系的理解,可以告诉你:现在你和你的男朋友或者女朋友结婚的概率是90%。


因为在你一生当中找不到更好的伴侣了,因为它如此地了解你,你心里想的可能是:我有能力找到一个更好的伴侣,更好看更漂亮的伴侣。它会知道你这样想的错误来源所在:你对外表太看重了。


你在选择的时候,考虑的因素还是五万年前我们的远祖祖先在非洲的大草原上择偶的标准。


现在机器会告诉你:根据我的统计数据,即使外表对于关系的成功与否具一定的重要性,但是这个重要性是比较小的,可能只占整体权重的10%,也就是在一个成功的关系当中只有10%是取决于外表、美貌。


机器会告诉你:我已经看到了这样的现实。从长远来看,你和现在这个人在一起会是最幸福的,你应该和他结婚。


在这样的一种设想当中,决策的权威、权力已经转移了,从人类手中移交给了算法。我们在这需要理解的是:做出决定的能力就像一组肌肉一样,这样的肌肉你不用的话就会退化,你对计算机信任越多,依靠人工智能来做决定越多,你就会失去自己做决定的能力。


活动现场


给大家举一个简单的例子:找路。在北京找一条路,去一个地方,比如火车站,过去我们怎么找路?基于自己的本能知识经验,到一个十字路口该左转还是右转,你会依赖于自己的经验。今天我们越来越多的人依赖智能手机、各种各样的GPS、地图的应用。


你的本能告诉你应该右转,但是智能手机告诉你左转,你越来越多地相信智能手机,而不是直觉。经过一段时间之后,你的认路、找路能力就丧失了,即使你还想这样做。


在北京这样的空间找路、认路,今天我们靠机器,二十年以后我们在自己的人生当中碰到了这样的十字路口要做决策的时候,很多人会用智能手机、人工智能来做决定,他们会告诉你该怎么做。


03 人工智能产生的革命性影响


随着人工智能变得越来越好,有可能人工智能会把人从就业市场当中挤出去,对于整个社会的经济和政治都产生革命性的影响。


1、减少交通事故


十年前,如果说计算机驾驶的技术比人更好,大家会觉得这是一部科幻小说。但是今天所有专家都达成了共识。可能再过一两年时间,计算机就能够比人类驾驶员的平均水平要好得多。届时数以百万计的出租车、卡车、公交车司机会失业,让位于自动驾驶汽车。


它不仅开起来好,安全性要高得多。今天世界上汽车事故造成的死亡人数比战争暴力还要多一倍。战争、恐怖主义犯罪,每年造成60-70万人死亡,汽车每年造成130万人死亡。大部分汽车事故都是由于人为造成的,比如酒驾,开车的时候打电话,或者睡着了,或者发信息。


今天交通事故当中人是主要的因素,有了人工智能就不会有这样的问题。自动驾驶的汽车永远不会喝酒,自动驾驶的汽车也不会在开车的时候睡着了,也不可能在开车的时候接打电话,这样自动驾驶汽车就能替代人员驾驶员的作用。


2、解决道德伦理上的难题


除此之外,人工智能也能做一些关于伦理道德的决定。比方自动驾驶汽车开的过程当中,突然前方有两个孩子在踢球,这个时候负责自动驾驶的计算机通过算法可算出避免撞死这两个孩子的办法是快速转向另一条车道;另一个解决方案可能就是让客户、车厂来决定。


比方丰田让客户决定自己要选用哪一款车,有一款车碰到这样的情况会决定让你死,那么另外一款车会决定刹车但是仍然会撞死前面两个孩子,你会买哪一款车,选哪一种算法?


世界上最优秀哲学家先把这样的程序做好,我们在理论上考虑的所有东西有各种各样的理论,但是这些理论对于遇到危机时的作用甚少。


大家可以说道德的选择是牺牲自己的生命救前方的孩子,但是一旦你真正上路了,在几秒内必须做出这个决定时,你就会忘记刚才的结论,会根据你的本能情绪来采取行动。


那些理论哲学上的行为之间和人类实际行为是有巨大差距的,但是有了计算机人工智能,我们就能解决这个问题。


我们可以把世界上最优秀的哲学家集合在一起,让他们坐在一个房间,给他们一年时间讨论道德上的难题,不管最终拿出了什么方案,就把这个方案写到自动驾驶汽车的程序当中。


谈到伦理道德决策,人工智能也有可能是平均意义上比人类更好,因为这意味着这样的自动驾驶汽车,假设每一辆车里面驾驶员都是孔子,这样对于人类驾驶员来说他们被人工智能替代之后,当然一方面会带来很多优势:更加安全、更加便利。


与此同时另一方面会使决策权从人民大众手中转向人数很少的一批精英的手中。过去这样的权力和福利是由数以百万计出租车司机,公交司机,卡车司机来分享,现在不是,现在都交给了人工智能,他们就掌握了世界上所有的出租车、卡车、公交车。


3、做更优秀的医生


不光是公交车司机,甚至是医生这个工作都会发生变化,在人工智能当中这样的事情已经开始发生。


人工智能在疾病诊断方面能够做得更好,提出治疗方案比平均水平的医生更好,普通医生的知识和能力是有限的,不可能每天都在更新知识,不可能一个人知道全世界所有的疾病药物和研发结果。


对于一个医生来说拥有的数据是有限的,但是对于人工智能来说这都是无可限量的,可以收集信息分析信息,熟知全世界所有疾病,能够24小时不间断地跟踪一个患者。


今天我的私人医生在以色列每年给我做一次体检,他和我报告我的健康状况。有了人工智能之后相当于你身边就有一个医生,随时追踪你的血压,即使我现在在中国,人工智能应用也会像一个医生一样随时了解我的健康状况,每0.5秒了解一下我血液的状态。


这不再是每年做一次体检,意味着对于癌症这样的疾病不是等到癌细胞扩散时再去医院检查,而是在刚刚出现癌细胞的时候就能够被发现。即使我没有不好的感觉,但是人工智能已经发现了。


因此,人工智能会发现癌症早期的症状提出诊疗方案,一个好医生不仅仅是了解你病情,还需要一些情感方面的了解:病人是不是害怕了,或者生气了,愤怒了等等。所以有人认为人工智能做不到,事实上人工智能比人类医生还能够抚慰病人心灵。


活动现场


人类医生怎么判断呢?可能看你的面部表情,某一个声音语调的变化,但是人工智能可以更加精准地分析你的面部表情,说话的语调变化。它能更加精准地比人类医生了解病人情绪的变化,监控某一个病人内部身体情绪的变化。


有时候病人自己都不知道自己是什么状态,但是人工智能可以,因为他在不断监控你的心跳血压状况等等。当然想要创造出这样一个人工智能医生,还有很多问题需要去解决,很多技术难题需要突破。


我们技术上只要实现一次突破,就可以解决一切的问题。人工医生怎么培训?可能需要八年大学硕博连读,临床实习之后才会培训出一个合格的医生来。十年之后,我们花了这么多资源只不过培养出了一名人类医生,这时候培养第二名又需要花十年时间。


但人工智能只要技术上实现一次突破,你拿到的不是一个机器医生而是无穷多的人工智能医生,他们可以被复制。这个比培训人类医生要效率高得多,虽然一开始要花数百万亿美元研发,但是一旦研发出来就可以无穷复制。


随着技术发展我们可以用机器替代出租车、司机、医生其他职业,人工智能逐步都可以替代,这时候出现一个非常大的人类社会学问题。


正如第一次工业革命使得城市无产阶级出现,人工智能的出现会出现一个新的阶层,就是无用阶层。


数以亿计的人将找不到工作,他没有办法和计算机人工智能竞争,对这些人来说他已经丧失了经济的价值,没有经济价值也就没有政治权力,这会对社会、政治、经济方面产生巨大的问题。

  

04 人工智能时代,你该教孩子学会什么


当然大家说会出现一些新的职业,但你没有办法确定会出现哪些新的职业替代那些正在消失或者被机器抢走的职业。我们可以说人会自己不断地学习,不再需要卡车司机、出租车司机,会有新的职业设计未来的事业,设计3D计算机游戏。


你想一下一个50岁的出租车司机失业之后,他有多大能力去培养自己?对于50岁的出租车司机来说,他要重新培养自己的能力,这样就太晚了。这样的革命非常危险,它会从根本上改变我们的教育体系。


今天,你会教孩子什么?今天在学校里我们应该教孩子什么?大学里面应该教孩子什么?让他们能够在二三十年之后适应当时的就业市场。


事实上我们没有人能够描述三十年后、二十年后的就业市场,换句话说我们现在的教育系统没有办法了解今天应该教我们的孩子什么。今天我们的孩子在学校里面学到的所有知识二三十年后完全无用,我们不知道现在应该教他们什么,才能够让他们在二三十年后找到工作。


即使我们会产生新的工作,二三十年后可能产生新的工作,但是今天孩子到那天是不具备那些新工作的就业能力的。那么这个时候出现了数百万、数千万甚至上亿失业人口,他们丧失了经济价值,这会产生进一步威胁。人类未来的精英阶层是否还会有动力照顾那些弱势群体?


活动现场


现在,世界各地的政府还会投资于那些弱势群体,为什么?因为政府精英群体需要这些弱势群体,即使是德国的纳粹希特勒,他也要投资这些弱势群体。


他要变大,需要有强大的军队,需要普普通通的数以百万计的德国人去给他当兵,成为工厂的工人才能支撑他打这样的战争,所以投资大量的资金用于教育和医疗。


但是未来如果人工智能替代人类,他可以替人去打仗、去做工,这样国家精英阶层就没有动力去投资医疗教育,帮助弱势群体。


人类社会会分成两大阶层,一个是非常少的精英阶层,就像上帝一样,他们在创造大量的人工智能,绝大部分人将变成没有任何经济价值任何无用的阶层。这是21世纪最大的风险。


05 人工智能毫无疑问会改变我们的未来


最后一点在我结束演讲之前,这也是非常重要的一点:有很多关于人工智能的讨论,但是也有很多关于人工智能究竟意味着什么的迷惑和疑问。智能和意识之间究竟有什么区别,很多人迷惑。


智能是解决问题的能力,比如我们诊断一个疾病,或者找到某一个疾病的治疗方法,这是智能。但是人类的意识是感受某一种外界的能力,你的情绪、你的感情、你的痛苦、愉悦、爱等等。人类和其他的哺乳动物,大猩猩猴子等,他们的意识和感情是合二为一的。


但是计算机不一样,随着水平越来越高,他们也能产生意识,很多科学的科幻小说或者其它科幻电影中,我们经常看到人工智能逐步产生了意识,机器人计算机变得非常智能,同时获得了意识和情感,机器人会变得非常愤怒,他想杀掉所有的人类。


我们在科幻小说电影中都看到过,它不是科学只是科幻。科学告诉我们智能和意识是完全不一样的两个东西。到目前为止,我们计算机或者人工智能发展到今天,智能水平在不断提高,但是人工智能的意识还是零。



换句话说:我们现在没有任何指标证明或者任何迹象表明,计算机和人工智能在未来能获得这种意识。计算机只是以一种完全不同的方式在工作,和人类其他的哺乳动物完全不一样,这是我们面临的风险,或许是最大的风险。


计算机会比我们智能得多,比人类水平高好多,他会控制这个世界,开始向宇宙其它星系去扩张,但是他们仍然没有意识。


我们会有一个充满智能机器的宇宙,但它们却丧失意识和情感。大家可以想象生命过去的演变在逐步向更高的智能发展(无论是人类或者其他哺乳动物),在演变过程当中是非常慢的。


上亿年的生命通过我们的意识不断摸索,慢慢演变到今天的智能状况,速度是非常慢的,演变需要数百万年的时间。突然有一个计算机突然杀出来,他们用完全不同的路径、方式,完全不同的发展模式,超级的智能在赶超有机的生命体。


他们智能的进化和演变速度比我们快得多,他们的发展演变比我们快得多,他们会控制整个世界甚至宇宙,但是没有意识。


我讲的东西不是一个寓言。没有人会知道未来是什么样,一切还悬而未决,同样一个技术你可以创造出完全不同的社会和世界。我们在21世纪曾经看到过这一幕,我们的技术、汽车、广播、电视、计算机,可以利用相同的技术创造出社会主义的国家,资本主义的国家、法西斯国家也都是利用同样的技术。


同样,人工智能的技术毫无疑问会改变我们的世界,但是我们未来的社会究竟怎么样?这会有很多选择,而不是完全由技术来决定的,一切都悬而未决。如果大家不喜欢我刚才描述的这个世界,大家仍然可以用自己的行动去改变决定未来世界的形态,去消除风险,发挥技术好的那一面。


最后我想讲的就是:当你作为一个个人,一家企业、政府部门,或者作为精英阶层,我们在做人工智能的时候,做各种各样决定的时候,一定要注意人工智能不仅仅是单纯的技术问题,同时也要注意到人工智能以及其它技术的发展,将会对社会、经济、政治产生深远的影响。


我们一定要注重人工智能技术层面的问题,还要严密关注人工智能的发展对社会可能产生的影响。因此,我们在投资与技术发展的时候,还要投入于社会影响的研究,谢谢。

  

06 访谈实录


腾讯科技在“XWorld大会”后独家专访了尤瓦尔赫拉利,就人工智能所将面临的伦理问题,个体如何避免成为“无用阶层”等话题进行了讨论。


采访中,尤瓦尔赫拉利提出,机器获得“意识”的情况可能性极低,可能只会出现在科幻小说中;但如果在人工智能发展的“黑箱”中,这样的情况恰巧发生了,那需要人与人工智能共同协商双方应当如何共处。


而针对一个数据主义的未来,赫拉利则强调,我们需要避免仅由少数精英团体掌控数据这一未来最珍稀的资源的情况,而要让大众了解人工智能的发展,参与到制定人工智能所需依循的伦理规则的讨论中,并最终要让大多数人能从新技术中获益。


以下为访谈实录:


问:在您的书和今天的演讲中,您为我们描绘了一个非常宏大而复杂的未来图景。在人工智能的开发上,我们目前还处于非常早期的阶段,还有很大可能做出根本性的改变。您认为,在这个开发的过程中,科学家们和开发者们应该遵循哪些原则?


赫拉利:首先,当人工智能这样的新技术出现时,在这些技术发展的早期,我们要考虑的不仅仅是技术层面,还需要考虑社会、经济和政治层面。


第二,要让大多数人能从新技术中获益,而不只是少数精英。


第三,具体到人工智能,我们不能只研究机器的“智能”,同样也要研究机器的“意识”,否则,事情会陷入极度不平衡的状态。即使我们发现人工智能有极大的能量,我们也不知道它有多大用处,或者即使我们用了,也会用的极不“明智”。


问:您提到要研究机器的“意识”。就我们人而言,我们其实还不知道“意识“是如何产生的,意识产生的过程对我们而言实际上是一个黑箱。那如果未来机器也有了”意识“,我们是否应当将他们视为等同于人的存在?我们又应该如何与它们共存?


赫拉利:机器产生“意识”其实是很难的,非常难。在科幻小说中,当机器变得非常“智能”时,它们其实也具备了“意识”,但这只是科幻小说,并不是真正的科学。


事实上,大多数人对“智能”和“意识”都区分不清,甚至有些计算机科学家也并不清楚两者的区别。


“智能”是解决问题的能力,“意识”是能感知事物的能力。人类和其他的哺乳动物都是通过感知事物来解决问题的,但计算机不是这样。我们在计算机的智能上有了很大的进展,但是在“意识”这一领域上几乎进展为零。


上个月,AI机器人Alpha Go战胜了人类的围棋冠军,围棋是非常需要智慧的游戏,但是却不需要任何的感知能力,在比赛中,机器不会有任何的焦虑感,即使赢了比赛,机器也不会有任何高兴的感受,这其中不涉及任何的意识和感觉。


所以我们没有道理认为人工智能在“意识”这一领域真正有进展。


我以前提及过“意识”的重要性,我说了人类有意识,所以人类才能知道,面对这样强大的能量,我们能做什么。


让计算机产生“意识”并不是一定能办到的事,我们自己都不是很清楚人类的意识到底是怎么来的,所以要让计算机也学会意识,这很难。


但是如果我们真的做到了,让计算机成为了有意识的个体,能感动疼痛,痛苦。


我们要从人工的角度来考虑,如何对待这些有意识的个体,最一开始你不会把它当成有意识的人,而会看做仅仅是物体和工具,因为它们可能会像飞机,汽车一样贵,但是它没有办法感知,它们有的只是一些性质而已,那时它们还没有意识,意识总是伴随着感知而来,然后我们需要从人工方面来创造这些感知。


问:那么您认为,谁有权利决定如何对待这些机器呢?是人类和机器之间产生一个协议,还是仅仅人类来决定?


赫拉利:这很难。很多的科学电影创造了一些有意识的机器人,让大众感到困惑,机器人真的有意识了吗?事实上不是的。


但我认为,如果这一天真的来了,也应该是人类和机器人双方共同的决定,因为一旦机器人有意识,它们会和我们一样感受到痛苦,那也它们也应该有权利决定自己接受怎样的待遇。


问:虽然目前的人工智能还没有您所说的“意识”,但它也已经开始面对一些伦理问题了。最经典的,比如说在车祸中,面对“杀死5个坏人,还是1个好人”的命题时,驾驶系统该如何做选择。


那我们应当如何建立人工智能选择的伦理标准?正如您刚才也提到的,人工智能不能只是少数精英的游戏,作为普通大众,我们应该如何参与呢?


赫拉利:首先我认为,我们应该有一个讨论机制。针对人工智能,目前公众并没有特别热烈的讨论,也没有明确的发展路线。


现在的决策都只是只是掌握在少数人手里,这些人都来自大企业或者其他组织的工程师、科学家,他们不代表任何个体。所以大众其实根本没有注意到目前到底是发展到什么阶段了。


所以,首先,大家要有所意识,要明白这对我们和我们的后代都是非常重要的。大众要参与讨论,即使每天的日常,可以讨论一下,究竟可以给AI,或者说这些算法多大的权力。即使老年人,也可以多接触计算机、智能手机,要了解才能做出一些决定。


现在大家都有智能手机,你不需要等到政府或者其他的大机构先做出决策,你可以用自己先做决定。你要给你的智能手机多大的权力?你要百度、亚马逊、谷歌等等企业多少的数据?


大多数的人没有意识到,在21世纪,最重要的就是数据。在人类很早期的时候,最重要的是土地;到了工业时代,最重要的是工厂和机器。而现在,最重要的是数据,尤其是个人数据。


在我们无意识的情况下,各种机构收集了大量数据,我们免费提供了大量数据。现在大家应该醒悟过来,要意识到,是大家给了这些机构、这些少数人控制世界的权利。


问:我们其实也并非在免费提供数据。我们是为了获取这些互联网公司的服务才提供自己的数据的。


对普通人来说,如果我们不提供这些数据的话,就必须选择放弃自己想要的服务,而今时今日,对我们而言放弃这些互联网服务几乎无法想象。所以您认为我们应该如何处理这个问题?


赫拉利:你说的对,我们并不是免费提供数据的,我们获得了服务,但是相比我们获得的服务,我们的数据其实更有价值。所以免费提供数据来获得免费的服务,对我们来说是一场不公平的交易。


但是我们的确没有选择,大多数服务商都是这么干的。只是消费者其实应该有权力去提出要求,比如说我愿意付一定的费用,但我要控制自己的数据。


我个人来说,比较倾向于通过付费来获取信息(和服务),比如有些资源、书籍,通过付费来获取数据,其实比免费要好。如果你选择免费获得某些资源,你自己可能就在不知不觉反而成为了商品。有些情况下,你的数据才是你最有价值的资产。


我举个例子,在过去,纺织业最重要的资产是机器,谁有了机器和工厂就能生产鞋子和衣服。但现在最重要的资产是数据。


首先是产品的数据。比如说,未来一家工厂要生产衣服,他们不需要把货品运送到世界各地,只需要知道衣服对应的一组代码就可以了,而你从这家公司购买的就是这组代码。你可以自己把这组代码输入3D打印机,然后就可以打印自己想要的衣服了。


另一个重要的资产是你的数据你的着装尺寸、你的衣服喜好。客户个人的数据是最重要的。客户穿多大?客户喜欢穿什么?这些数据决定了一家服装企业是否能够跑赢市场。


从这个角度来看,现在人们免费公开了自己的数据,但其实是丢掉了一些重要的权利。


问:您在书中还提到了一个“无用阶层”的概念,认为在未来,会有一部分人因为工作被机器代替等种种原因,成为“无用阶层”。选择放弃这些数据的独有权,是否会加速我们在未来成为“无用阶层”的过程?


赫拉利:是的,这是非常危险的。因为在这种情况下,只有少数精英拥有了数据、拥有了权利,而大众却没有。那些拥有了数据的人,可能比你自己更了解你,可以预测你的行为和决策,操作你的选择和想法,他们为你做决定。


当然,这不全然是坏的,也有积极的一面。


最基本的过程是,我们收集数据,并以此发展计算机算法。不过,你参考一下世界上的大公司,你根本不知道他们会用这些数据干什么,但他们竟然全力收集到了这么多数据。


比如说亚马逊这家公司,他到现在都还没盈利,却不留余力都在收集客户的数据,20年来收集了这么多数据,然后你发现原来他们的计算能力这么强,堪称是世界上最强大的公司。这就是数据所给他们带来的。


我们是不是可以认为目前我们所享受到的这些免费的服务,实际上是科技公司为了积累未来的资产,而做的长线投资了?


赫拉利:是的,我们现在看到的很多事情都是科技公司在下注,赌的就是收集到海量数据未来可能能获益,虽然你现在可能甚至都不知道要怎么去用这些数据。


要利用这些数据,首先是要创建一个非常大的数据库,然后需要非常强的计算能力去分析这些数据,通过获得的分析结果,一家公司就能掌控很多事情。所以即使目前他们是在亏损,没有盈利,他们也要做这件事。


很多大公司都是如此,比如推特,比如YouTube,他们可能甚至都不清楚要怎么盈利,但他们就是要收集数据,因为可能再过十几年,数据就会成为了最重要的资产。


问:那么,作为普通大众,在人工智能的潮流中,怎么避免自己变成“无用阶层”?我们怎么保有自己的数据,保全这个最重要的资产?


赫拉利:我的建议是,希望大家能少接收一点信息。


以前大家总觉得信息越多越好,其实不是的。现在我们周围充满了各种信息,让我们觉得眼花缭乱,甚至都无法集中精力了。有时候周围这些无意义的信息,占据了你的大量时间,比如无意识地一直看小猫小狗的视频。最后,你会没办法长时间集中精力在一件事情上进行深入的研究。


所以我觉得大家需要的其实不是这些海量的信息,更需要的应该是集中力。你需要分辨出对你来说真正重要的东西来。


我担心再过几十年,大家会完全丧失高度集中注意力的能力,所以我建议大家,要关注对自己真正重要的事情上,然后集中深入地去完成这些事。


附:访谈视频 >>


综合:笔记侠(ID:Notesman)、腾讯科技(ID:qqtech)、华尔街见闻(ID:wallstreetcn)




              查看评论 回复



嵌入式交流网主页 > 资讯 > 人工智能AI > 21世纪最大风险:精英阶层制造大量人工智能
 人工智能 我们 数据

"21世纪最大风险:精英阶层制造大量人工智能"的相关文章

网站地图

围观()