注意：人工智能非你所想！

 

艾萨克阿西莫夫的机器人三定律还不足以控制人工智能。上图是幻想插画家之父迈克尔蕙兰为《曙光中的机器人》设计的封面。 自近20年前“深蓝”与盖里卡斯帕罗夫对战象棋获胜以来，今天谷歌的“阿法狗”与国手李世石在围棋锦标赛中决一胜负，对决前三局两次告捷一事被誉为史上最具意义的机器智能测试，表明多年来人工智能经历了显著进化。机器的智慧最终超越人类，这一宿命感从未这般真实过，然而我们似乎还未抓住这个划时代事件的真正含义。  实际上，我们揪住人工智能不放的是一些严重、甚至危险的误解。去年年底，美国太空探索公司合伙创始人艾伦马斯克做出人工智能将统治世界的警示，激起谴责声、支持声一片。在未来，这一重大事件能否发生、或以何种形式发生，争议人数之多令人吃惊。而当考虑到人工智能带来的巨大利益和潜在风险时，就尤其令人心烦。与人类的其他发明不同，人工智能或许会重塑人类，但或许也会毁灭人类。  该相信什么？这真的很难。然而，多亏了计算机科学家、神经学家和人工智能领域的理论家做出的开拓工作，使得一张更为清晰的画面开始浮现出来。下面是人工智能最常见的一些误解和谜团。 谜团一：“我们难以造出拥有类人智慧的人工智能。”  在这场历史性的头脑大比拼中，当前围棋大师李世石已连败两场。图片来源：盖蒂图 现实：现有的计算机已在国际象棋和围棋、证券市场交易、以及智能对话中赶上甚至超越人类。电脑和算法不断优化，受此驱动的人工智能赶超人类行为只是时间迟早的问题。  纽约大学的研究心理学家加里马库斯指出“几乎所有”研究人工智能的人都相信机器终将超越人类。“对此热衷也好，怀疑也罢，两者之间唯一的区别不过是个时间问题。“未来学家如雷库兹韦尔认为几十年内人工智能便可实现超越,其他人则认为此举可能要花上几个世纪。  对人工智能持怀疑论调的人认为，让人工智能超越人类是个无解的技术难题，况且生物大脑具有固有独特性，他们的论调不足为信。就算我们的大脑是生物机器，它们也还只是机器。它们存在于现实世界，遵循基本的物理定律。关于人类大脑，我们已经了解的十分透彻。 谜团二：“人工智能具备自主意识。”  AMC的电视连续剧《人》中,一些人工智能具备自主意识。图片来源：AMC网站 现实：关于机器智能的一大常见假设即它拥有自主意识，可以像人一样思考。此外,诸如微软联合创始人保罗艾伦之类的批判者认为,人类之所以还没有实现强人工智能(AGI),即能像人一样执行任何智力任务，是因为人类缺乏一套有关意识的科学理论。但正如伦敦帝国理工学院的认知机器人专家莫里沙纳所言,我们应该避免两个概念的杂糅。  “意识固然是个有趣也重要的东西，但我不认为它是人类级别的人工智能所必需的,”他对Gizmodo网站如是说。“或者，更准确的说，我们用意识一词囊括人类集于一身的几大心理认知特性。”  我们可以想象有这样一台机器，它超级聪明但却有可能缺乏其中一种或几种这样的特性。最后，我们或许会创造出一个人工智能，它无敌聪慧，但却无法自主、主观、有意识的体验世界。沙纳罕认为智慧和意识或许可以在同一台机器上并存，但这是两个不同的概念，是我们不该忽视的事实。  仅仅因为机器通过了图灵测试，全程言行与人无异并不意味着他有自主意识。于我们而言，一个先进的人工智能可能会让人觉得它是有意识的，但要说自我意识，比起石头、计算器，它也好不到哪儿去。 谜团三：“人工智能，何惧之有！” 现实：今年1月,Facebook创始人马克扎克伯格说,我们不该惧怕人工智能,人工智能之于世界益处颇多。他只说对了一半儿。从无人驾驶到新药品研发，我们不紧不慢的收割着人工智能带来的巨大利益，却不能保证每个人工智能的实例化都能与人为善。  一个高度智能系统能够全面了解特定任务,如解决一大棘手的金融问题或黑掉敌方系统。然而一旦涉及这些特殊领域之外的内容，它就会变得极度无知、神经大条。谷歌的DeepMind系统精通围棋，但它无能力亦无理由去探索围棋之外的领域。 火焰病毒用作中东国家的网络间谍。图片来源：《连线》杂志  许多这样的系统都充满了安全顾虑。‘超级工厂病毒’就是一个很好的例子。它强势、精密，是由美国、以色列军队研发的一种代码病毒武器，用于渗透到伊朗的目标核电站。但不知怎的，这款恶意软件有意无意地感染了一个俄罗斯核电站。  同样的还有在中东用于锁定网络间谍的“火焰”病毒程序。不难想象，“火焰”、“超级工厂病毒”的未来版本，传染范围只会更广、对一些敏感的基础设施的破坏也会更大。[注：澄清一点，这些病毒非人工智能，但未来可能会拥有智慧，因而有此顾虑。] 谜团四：“超级人工智能满智慧零错误。”  上图为1957年美国电影《隐身男孩》中的巨型计算机。 现实：人工智能研究员和Surfing Samurai 机器人创始人，理查德鲁斯莫尔认为，人工智能的末日设想情景多是不合逻辑的，他指出这些设想总会涉及一个假设：人工智能机器人会说“我知道摧毁人类是我设计上的小故障导致的，但我不得不那样做。“鲁斯莫尔指出，如果人工智能是带着这样的想法摧毁我们，那么它会一直出现这样的逻辑矛盾，从而导致自己的知识库被破坏，变得愚笨而无法带来破坏力。他还认为，“人工智能只具备内嵌程序赋予的功能”这一谬论和电脑发展早期反对者的观点并无二致，当时的电脑反对者也认为，电脑永远不具备任何灵活性。  在哈弗大学的人类未来研究所工作的皮特麦金泰尔和斯图尔特阿姆斯特朗与鲁斯莫尔持不同观点，指出人工智能很大部分受限于自身内嵌程序。他们不认为人工智能一点错也不会犯，相反，也不觉得人工智能会笨到不知道人类对它们的期望。  “从定义而言，超级人工智能相当于一位智能代理，几乎比所有相关领域的顶尖人才都要聪明。”麦金太尔告诉Gizmodo网站。“它们会完全明白我们想要它干什么。”麦金太尔和阿姆斯特朗认为，人工智能只会运行自身预先设置的程序，但等它发展到足够聪明时，它就应该能区分程序与规则的区别，或明白人类的预期。  麦金太尔将人类未来的处境比作悲惨的老鼠。老鼠有觅食打洞的本能，但人类却把出现在自己的房间里老鼠赶尽杀绝。他说：“正如人类明白老鼠想要什么，超级人工智能系统或许也知道人类的需求，却还是无情忽视。” 谜团五：“简单修理就能解决人工智能的操控问题”  正如电影《机器姬》里的场景，控制远比人类聪明的人工智能是极其困难的。 现实：假设我们创造的人工智能比人类聪明，我们就会面临一个严肃的问题“操控问题”。未来主义者和人工智能理论家无法解释，一旦制造出超级人工智能，我们要如何使用、控制它们，或者如何确保超级人工智能对人类无害。近来，乔治亚理工学院的研究人员提出来一个幼稚的建议，建议人工智能通过阅读小故事学习人类价值观和社会规范。但现实却要复杂得多。  阿姆斯特朗说，“很多人提出了简单技巧，以为这样就可以解决人工智能的控制问题。”例如，有人提出，把超级人工智能设计为以取悦人类为目标、或者心甘情愿做人类的工具。又或者，把爱、尊重等概念编入它的源代码。而且为了避免它对世界的看法过于简单单一，要把它设计为懂得欣赏知识、文化和社会多样性的人工智能。 艾萨克阿西莫夫提出的“机器人三定律”催生了伟大的科幻小说，但是我们需要更实际的办法解决“控制问题”。  但这些办法要么太简单，试图将人类错综复杂的喜恶浓缩成一个简单定义，要么把人类复杂的价值观浓缩为一个词、一个句子、或一种想法。例如，为“respect”一词找到一个明确可行的定义就面临巨大的困难。  “并不是说这些简单方法毫无用处，很多建议很有研究的价值，有利于帮助解决最后的问题”阿姆斯特朗说。“但我们不能完全依赖它们，而要努力探索研究它们背后的含义。” 谜团六：“人类会被人工智能摧毁”。  图片来源：《黑客帝国》 现实：人工智能是否会摧毁人类，人类能否操控它们，这些都尚无定论。正如人工智能理论家艾利泽尤德考斯基所说：“人工智能不憎恨你，也不爱你，不过，你是由原子组成的，人工智能可以用原子另作他用。”  在作品《超级人工智能：道路、危险、战略》中，哈佛大学哲学家尼克博斯特罗姆写到，一旦真正实现超级人工智能，它带来的风险将大于以往任何人类发明。著名思想家如埃隆马斯克、比尔盖茨和史蒂芬霍金也曾发出类似的警告，史蒂芬霍金曾预言称人工智能可能是人类“史上最大的错误”。  麦金太尔表示，超级人工智能所能拥有多数目标中，  完全有理由把人类排除其中。  他断言，“人工智能可以准确地预料到，我们不想让它以消费者、环境和动物为代价来换取某一公司的利益最大化。”“因此，人工智能会尽力确保自己不会被中断或被干扰被关闭，或改变预设目标，否则目标将无法完成。”  除非超级人工智能的目标完全模仿人类的，否则它完全有理由不给我们阻止它的机会。而且，鉴于超级人工智能的智力水平远超出人类，我们人类将对它的决定无计可施。  但一切都是未知的，谁也不能确定人工智能会发展到何种程度，又是否会危及到人类。正如马斯克所言，人工智能实际上可以进行互相控制和监管。或给它们灌输人类价值观，或将与人为善设为最高指令。 谜团七：“超级人工智能很友好。”  图片来源：《星际迷航：下一代》 现实：哲学家伊曼努尔康德坚信智慧与道德密切相关。而神经学家大卫查默斯在论文《奇异性：哲学浅思》中借用了康德这一著名理论来应和超级人工智能的崛起。  若这一观点正确……可以预见的是智能风暴乍起，道德风暴相随。接下来，一个智力超群、道德高尚的超级人工智能（ASI）系统就是意料之中了。由此我们尚且认为他们会与人为善。  尽管如此，高级人工智能受到教育，能够传承良善一说也站不住脚。如阿姆斯特朗所说，聪慧的战犯不在少数。人类中似乎并无智慧与道德相关一说，因而他对其他智慧体中必然存在这种相关性的假设提出质疑。  “比起蠢笨的同伴，那些品行恶劣的聪明人所造成的伤害范围更广，”他指出。“智慧只会让他们坏的更变态，却不能令其从良。”  麦金太尔解释说，智能代理的达标能力与目标明智与否没有一毛钱关系。“如若人工智能得天独厚，智力提升与道德提高呈正相关，那人类就太幸运了，”他如是说。“然而对于能够左右人类命运的事物而言，仅靠运气非上上策。” 谜团八：“人工智能和机器人所带来的风险是一样的。”  图片来源：《终结者》 现实：这类误解尤为常见（例子比比皆是），在缺乏批判的媒体和诸如《终结者》系列电影的渲染下根深蒂固。 
 如果类天网的超级人工智能存心颠覆人类，也就不会动用手持机枪的仿真机器人了。释放生物鼠疫或用纳米技术制造一场“灰雾”灾难或许更为有效。直接破坏大气层亦可。人工智能的潜在危害不在于他对未来机器人的影响，而在于它将如何向世界宣示自身存在。 谜团九：“科幻小说中的人工智能是对未来的真实写照。”  众多大脑类型。图片来源：埃利泽/米里 现实：诚然，作家和未来学家多年来一直借助科幻小说做些不切实际的预测，但这跟超级人工智能（AST）所提出的事件视界是两码事。此外，人工智能与人类的本质区别使得了解、预测它的确切性质和形态难如登天。  为娱乐弱小的人类，科幻小说中的“人工智能”大多与人类似。“有一张有着所有可能思维的脑谱，即便在人类中，你和邻居各自迥异，但比起所有可能存在的思维来，这点不同都不是事儿，“麦金太尔说道。  大多数科幻小说是为了使故事更引人入胜，而非追求科学准确度。因而科幻小说中发生冲突的双方通常都是旗鼓相当。"设象一下，假如故事里的人工智能无悲喜、无爱恨、无意识，最终轻轻松松灭了人类，只为实现一个毫无乐趣可言的目标。呵呵哒，这故事该何其无聊！"阿姆斯特朗说道。 谜团十：“可怕的是，人工智能将全面取代人力。” 现实：人工智能实现大部分人力工作自动化与它对人类的潜在毁灭性完全是两码事。马丁福特著有《机器人的崛起：技术发展与失业危机》一书，据他所言，二者常被混为一谈。研究人工智能对未来的影响无可厚非，但前提是这不会分散我们在接下来的几十年中应对问题的注意力。其中最重要的就是实现大规模自动化。nullnull图片：盖蒂。毫无疑问，从基层工厂到上层白领，人工智能已做好准备替代许多现有工作。  一些专家预测，美国近半数工作在不久的将来会面临自动化的威胁。  但这并不意味着我们就无计可施了。可以说，减少人类的体、脑力劳动是人类值得称赞的非常理想化的一大目标。"  在接下来几十年里人工智能将颠覆很多工作，但这也是件好事。"例如，自动驾驶汽车取代卡车司机以降低运输成本，从而使商品变得更便宜。“虽然作为卡车司机的你失业了，但其他人却能有效提高自己工资的购买力，”米勒说。“而这些省下来的钱将会用来消费其他商品和服务，从而催生出更多需要人类来做的新工作。”  人工智能十有八九能创造出新的生财之道、解放人力，这样人类就可以做其他的事情。另外人工智能的‘进化’也将带来其他领域的发展，尤其是制造业。未来，满足基本生活需求会变得容易很多。 
注释：为使文章清晰易懂，“人工智能很聪明不会犯错”这一板块已修整。 译者：果果向前冲、一江水、阿阿阿秦 
原文来源：gizmodo.com
原文标题：Everything You Know About ArtificialIntelligence is Wrong
原文地址：http://gizmodo.com/everything-you-know-about-artificial-intelligence-is-wr-1764020220
 相关译文来自无觅插件 

It was hailed as the most significant test of machine intelligence since Deep Blue defeated Garry Kasparov in chess nearly 20 years ago.  [近20年前“深蓝”与盖里卡斯帕罗夫对战象棋获胜一事被誉为史上最具意义的机器智能测试。] 其实这里的it是指下一句里的AlphaGo获胜一事，而非深蓝获胜的事情。 

 games like chess and Go, stock market trading, and conversations [游戏如国际象棋、围棋、证券市场交易、以及智能对话] 注意顿号和逗号的使用。现在的译文让人觉得“证券市场交易和智能对话”都包含在“游戏”之中。 
 Computers and the algorithms that drive them can only get better [电脑和算法促使人工智能更加优化] 指的是电脑和算法会不断优化。 
 they excel at nearly any human activity [它们赶超人类行为] 没有把“nearly any”的意思翻出来。 
 it will be no more aware of itself than a rock or a calculator. [比起自知，它更了解一块岩石、一个计算器] 意思不对。这里是说：It will be no more aware of itself than a rock is or a calculator is.  不是 It will be no more aware of itself than it is aware of a rock or a calculator. 如果是后者那就糟了。因为它的确可以了解岩石和计算器的存在，根据后面这句话，那就是说它同样也可以了解自我的存在了。原文的意思是它并不比一块石头或者一个计算器更有自我意识。 
 we’re poised to reap tremendous benefits from AI [我们不紧不慢的收割着人工智能带来的巨大利益] poised 这里应该是ready的意思，不是不紧不慢。 
 grossly ignorant and unaware [极度无知、神经大条]“神经大条”在这里的用法有点怪呀。 
 There’s also Flame, a program used for targeted cyber espionage in the Middle East. It’s easy to imagine future versions of Stuxnet or Flame spreading afar and wreaking untold damage on sensitive infrastructure. [Note: For clarification, these viruses are not AI, but in future they could be imbued with intelligence, hence the concern.] 漏译。 

 They don’t believe that AIs won’t be capable of making mistakes, or conversely that they’ll be too dumb to know what we’re expecting from them. [他们认为人工智能很大部分受限于自身内嵌程序他们不认为，人工智能不会犯错。相反，人工智能可能很笨，笨到根本不懂人类想要它们做什么] 后半句错了。这两点他们都不同意。现在的译文与下一段完全冲突了。 
 an agent with an intellect [一个拥有智力的特工] 怎么特工也出来了。 
 how this differs from the spirit of the law [程序与规则的区别]  spirit of the law 是个idiom: 
 The letter of the law versus the spirit of the law is an idiomatic antithesis. When one obeys the letter of the law but not the spirit, one is obeying the literal interpretation of the words (the "letter") of the law, but not necessarily the intent of those who wrote the law. 

 myia：It was hailed as the most significant test of machine intelligence since Deep Blue defeated Garry Kasparov in chess nearly 20 years ago.  [近20年前“深蓝”与盖里卡斯帕罗夫对战象棋获胜一事被誉为史上最具意义的机器智能测试。] 其实这里的it是指下一句里的AlphaGo获胜一事，而非深蓝获胜的事情。 

 games like chess and Go, stock market trading, and conversations [游戏如国际象棋、围棋、证券市场交易、以及智能对话] 注意顿号和逗号的使用。现在的译文让人觉得“证券市场交易和智能对话”都包含在“游戏”之中。 
 Computers and the algorithms that drive them can only get better [电脑和算法促使人工智能更加优化] 指的是电脑和算法会不断优化。 
 they excel at nearly any human activity [它们赶超人类行为] 没有把“nearly any”的意思翻出来。 
 it will be no more aware of itself than a rock or a calculator. [比起自知，它更了解一块岩石、一个计算器] 意思不对。这里是说：It will be no more aware of itself than a rock is or a calculator is.  不是 It will be no more aware of itself than it is aware of a rock or a calculator. 如果是后者那就糟了。因为它的确可以了解岩石和计算器的存在，根据后面这句话，那就是说它同样也可以了解自我的存在了。原文的意思是它并不比一块石头或者一个计算器更有自我意识。 
 we’re poised to reap tremendous benefits from AI [我们不紧不慢的收割着人工智能带来的巨大利益] poised 这里应该是ready的意思，不是不紧不慢。 
 grossly ignorant and unaware [极度无知、神经大条]“神经大条”在这里的用法有点怪呀。 
 There’s also Flame, a program used for targeted cyber espionage in the Middle East. It’s easy to imagine future versions of Stuxnet or Flame spreading afar and wreaking untold damage on sensitive infrastructure. [Note: For clarification, these viruses are not AI, but in future they could be imbued with intelligence, hence the concern.] 漏译。 

 They don’t believe that AIs won’t be capable of making mistakes, or conversely that they’ll be too dumb to know what we’re expecting from them. [他们认为人工智能很大部分受限于自身内嵌程序他们不认为，人工智能不会犯错。相反，人工智能可能很笨，笨到根本不懂人类想要它们做什么] 后半句错了。这两点他们都不同意。现在的译文与下一段完全冲突了。 
 an agent with an intellect [一个拥有智力的特工] 怎么特工也出来了。 
 how this differs from the spirit of the law [程序与规则的区别]  spirit of the law 是个idiom: 
 The letter of the law versus the spirit of the law is an idiomatic antithesis. When one obeys the letter of the law but not the spirit, one is obeying the literal interpretation of the words (the "letter") of the law, but not necessarily the intent of those who wrote the law.  
@myia：谢谢您指教，（rose）（rose）（rose） 
 1. 【it】指代、【游戏】表达不清、【优化】的逻辑主语问题，已改 
 2.【nearly any】个人觉得没必要翻出来，直接说“会赶超人类行为”正好把原文中“任何”的意思表达出来了。 
 3.【it will be no more aware of itself than a rock or a calculator.】已加入记忆本，碰到这种句子，译者总栽更头（哭） 
 已改为[但要说自我意识，它还不如一块石头、一个计算器呢] 
 4. [we’re poised to reap tremendous benefits from AI ]已改为【我们已经准备好收割人工智能带来的巨大利益】 
 5. [grossly ignorant and unaware]嗯嗯，译者也觉得神经大条怪怪的（傻笑） 
 已改为【极度无知、意识懵懂】，您觉得行吗？ 
 6. [They don’t believe that AIs won’t be capable of making mistakes, or conversely that they’ll be too dumb to know what we’re expecting from them.]是译者的疏忽，已改为 [在哈弗大学的人类未来研究所工作的皮特麦金泰尔和斯图尔特阿姆斯特朗与鲁斯莫尔持不同观点，指出人工智能很大部分受限于自身内嵌程序。他们不认为人工智能一点错也不会犯，相反，也不觉得人工智能会笨到不知道人类对它们的期望。] 
 7.[agent]译为‘特工’是校对的疏忽，已改为【智能代理】 
 8.漏译部分[There’s also Flame, a program used for targeted cyber espionage in the Middle East. It’s easy to imagine future versions of Stuxnet or Flame spreading afar and wreaking untold damage on sensitive infrastructure. [Note: For clarification, these viruses are not AI, but in future they could be imbued with intelligence, hence the concern.] ]已补译[同样的还有在中东用于锁定网络间谍的“火焰”病毒程序。不难想象，“火焰”、“超级工厂病毒”的未来版本，传染范围只会更广、对一些敏感的基础设施的破坏也会更大。[注：澄清一点，这些病毒非人工智能，但未来可能会拥有智慧，因而有此顾虑。]]。 
 首次使用译马网在线合作，各部分协调上出了些问题，接下来的使用中，会注意加以改进的。再次感谢老师您的纠错。（rose） 

 果果向前冲：@myia：谢谢您指教，（rose）（rose）（rose） 
 1. 【it】指代、【游戏】表达不清、【优化】的逻辑主语问题，已改 
 2.【nearly any】个人觉得没必要翻出来，直接说“会赶超人类行为”正好把原文中“任何”的意思表达出来了。 
 3.【it will be no more aware of itself than a rock or a calculator.】已加入记忆本，碰到这种句子，译者总栽更头（哭） 
 已改为[但要说自我意识，它还不如一块石头、一个计算器呢] 
 4. [we’re poised to reap tremendous benefits from AI ]已改为【我们已经准备好收割人工智能带来的巨大利益】 
 5. [grossly ignorant and unaware]嗯嗯，译者也觉得神经大条怪怪的（傻笑） 
 已改为【极度无知、意识懵懂】，您觉得行吗？ 
 6. [They don’t believe that AIs won’t be capable of making mistakes, or conversely that they’ll be too dumb to know what we’re expecting from them.]是译者的疏忽，已改为 [在哈弗大学的人类未来研究所工作的皮特麦金泰尔和斯图尔特阿姆斯特朗与鲁斯莫尔持不同观点，指出人工智能很大部分受限于自身内嵌程序。他们不认为人工智能一点错也不会犯，相反，也不觉得人工智能会笨到不知道人类对它们的期望。] 
 7.[agent]译为‘特工’是校对的疏忽，已改为【智能代理】 
 8.漏译部分[There’s also Flame, a program used for targeted cyber espionage in the Middle East. It’s easy to imagine future versions of Stuxnet or Flame spreading afar and wreaking untold damage on sensitive infrastructure. [Note: For clarification, these viruses are not AI, but in future they could be imbued with intelligence, hence the concern.] ]已补译[同样的还有在中东用于锁定网络间谍的“火焰”病毒程序。不难想象，“火焰”、“超级工厂病毒”的未来版本，传染范围只会更广、对一些敏感的基础设施的破坏也会更大。[注：澄清一点，这些病毒非人工智能，但未来可能会拥有智慧，因而有此顾虑。]]。 
 首次使用译马网在线合作，各部分协调上出了些问题，接下来的使用中，会注意加以改进的。再次感谢老师您的纠错。（rose）  
@果果向前冲： 
 “nearly any” 我感觉这里是说机器几乎在所有的人类活动中都已经比人做得更好的意思。原来的译文似乎有些太笼统了。 
 【it will be no more aware of itself than a rock or a calculator.】 
 [但要说自我意识，它还不如一块石头、一个计算器呢] 好了很多，不过no more than 和less than还是不一样啊哈哈。为什么说机器的自我意识不如石头呢？这说不过去呀。只是和石头一样而已。（不比它强。） 
 “特工”什么的好像没有改掉呢。 

Just as we are smart enough to have some understanding of the goals of mice, a superintelligent system could know what we want, and still be indifferent to that [就像人类明白老鼠想要什么，超级人工智能系统也能明白我们想要什么，却不满足我们的需求] indifferent to 不是不满足我们的需求的意思。他这里是说，就像我们虽然知道老鼠想要什么但却不会在意一样，机器也可能明白我们想要什么，但是它们却可能根本不在乎。 

 But the idea that advanced AI will be enlightened and inherently good doesn’t stand up.  [尽管如此，高级人工智能本性良善，能被教化一说也站不住脚] “教化”这个词用在这里不是很恰当。这个理论全部讲的就是当AI发展到充满智慧，就会自然而然地充满良善，因此是inherent，不应该需要“教化”。 

 the event horizon posed by ASI is a horse of a different color [这跟意大利航天局所提出的黑洞视界是两码事] 意大利航天局？？黑洞视界？？？从何说起？注意前文有ASI的解释： 
 an artificial superintelligence (ASI) 
 half of all jobs in the US are vulnerable to automation [美国近半数工作在不久的将来会实现自动化] vulnerable 没有翻出来。如果单看译文，这句话似乎是正面的。其实作者是说近半数工作将会受到自动化的威胁。 

 A strong case can be made that offloading much of our work, both physical and mental, is a laudable, quasi-utopian goal for our species. [一个有效措施即减少人们的体、脑力劳动，这也是人们希望达到的理想目标。] a strong case can be made 不是一个有效措施的意思。这句话谈的不是用何种措施来对付自动化。它只是提出其实自动化的结果对人类来说并非坏事。a strong case can be made 和 it can be argued 意思差不多。 
 generate new jobs for humans [从而催生出更多新工作] "for humans"这里很关键，不可漏译。 

 myia：@果果向前冲： 
 “nearly any” 我感觉这里是说机器几乎在所有的人类活动中都已经比人做得更好的意思。原来的译文似乎有些太笼统了。 
 【it will be no more aware of itself than a rock or a calculator.】 
 [但要说自我意识，它还不如一块石头、一个计算器呢] 好了很多，不过no more than 和less than还是不一样啊哈哈。为什么说机器的自我意识不如石头呢？这说不过去呀。只是和石头一样而已。（不比它强。） 
 “特工”什么的好像没有改掉呢。  
@myia：嘿嘿，这次改了。还有我您指出的那处不妥改为了“但要说自我意识，比起石头、计算器，它也好不到哪儿去”，这次行吗？ 
 【译者的英语语感差您太远，所以拿不准。只能抓住大概意思[]】 

【1】Just as we are smart enough to have some understanding of the goals of mice, a superintelligent system could know what we want, and still be indifferent to that 
 已改为“正如人类明白老鼠想要什么，超级人工智能系统或许也知道人类的需求，却还是无情忽视。” 
 【2】But the idea that advanced AI will be enlightened and inherently good doesn’t stand up. 
 已改为“尽管如此，高级人工智能受到教育，传承良善一说也站不住脚”，“传承”您举得怪吗？ 
 【3】Sure, scifi has been used by authors and futurists to make fantastic predictions over the years, but the event horizon posed by ASI is a horse of a different color. 
 ASI 之前查的是“意大利航天局(Agenzia Spaziale Italiana)”且event horizon查了有“黑洞”的意思还以为是与“人工智能”作类比 ，没大注意就用了，是译者错了 
 已改为：【诚然，作家和未来学家多年来一直借助科幻小说做些不切实际的预测，但这跟超级人工智能（AST）所提出的事件视界是两码事。】 
 【4】half of all jobs in the US are vulnerable to automation 
 已改为：美国近半数工作在不久的将来会面临自动化的威胁。 
 【5】A strong case can be made that offloading much of our work, both physical and mental, is a laudable, quasi-utopian goal for our species. 
 已改为：可以说，减少人类的体、脑力劳动是人类值得称赞的非常理想化的一大目标。 
 【6】generate new jobs for humans  改为：“而这些省下来的钱将会用来消费其他商品和服务，从而催生出更多需要人类来做的新工作”可以吗？ 


　　　　　　　　　　　　　 查看评论 回复