AI领军人物，业界公认的“标准教科书”作者，全新烧脑新作！万维钢推荐。

书名：AI新生：破解人机共存密码——人类最后一个大问题

定价：88元

作者：斯图尔特·罗素

出版社：中信出版集团

出版日期：2020-09

页码：376

装帧：精装

开本：16开

ISBN：9787521719512

1.【在一个由超级AI主宰的世界里，人类如何保持独立？】

这本书提出一个大问题，给出一种解决方案。作者用三个大原则，一个“有益的AI”，带你破解人机共存的密码，这可能是人类面临的最后一个大问题。

2.【AI领军人物，业界公认的“标准教科书”作者，时隔25年，打造全新烧脑之作】

作者认为，人类试图将自己的目标灌输给机器，是注定要失败的尝试。这本书倡导一种颠覆性的新方法——逆强化学习，让机器根据人类行为，学习人类目标。

3.【埃隆·马斯克、万维钢、姚期智、张宏江、黄铁军、周志华、周伯文、曾毅等鼎力推荐】

《思考，快与慢》作者丹尼尔·卡尼曼，《生命3.0》作者迈克斯·泰格马克，《为什么》作者朱迪亚？珀尔，《深度学习》作者约书亚·本吉奥专业背书！

从比尔·盖茨、埃隆·马斯克到霍金，众多企业家和科学家都曾表示担心AI对人类生存造成的威胁。真的有一天，人类会成为自己发明的机器的受害者吗？

在过去相当长的一段时间里，人类之所以能控制地球，是因为人类的大脑比其他动物的大脑要复杂得多。但如果AI变得比人类更聪明，我们要如何掌控这个世界？智能是一种权力，我们能否控制智能，决定了我们未来的命运。

这本书讲述了我们为理解和创造智能，在过去、现在和未来所做的尝试。这很重要，并不是因为AI正迅速成为当前的一种普遍现象，而是因为它是未来的主导技术。世界上的各个大国正在意识到这一事实，各家大公司也早就知道这一点。

作者在书中提出了一个大问题：如何破解人机共存密码，掌控比我们强大得多的智能，让AI获得新生？这可能是人类面临的最后一个大问题。这本书的目的是解释为什么这可能是人类历史上的最后一件事，以及如何确保这不会成为现实。

前言//V

01如果我们成功了

我们如何走到今天？//006接下来会发生什么？//008出了什么问题？//010我们能解决吗？//013

02人类和机器的智能

智能//017计算机//035智能计算机//043

03人工智能在未来会如何发展？

近未来//067超级人工智能何时到来？//080概念上的突破即将到来//082想象一台超级智能机器//095超级智能的局限//098人工智能如何造福人类？//100

04人工智能的滥用

监督、劝导和控制//107致命性自主武器//113篡夺其他人类角色//127

05过于智能的人工智能

大猩猩问题//137迈达斯国王问题//141恐惧与贪婪：工具性目标//145智能爆炸//147

06不那么伟大的人工智能辩论

否认//154转移话题//162部落主义//166难道我们不能……//168

辩论重新开始//176

07人工智能：一种不同的方法

有益机器的原则//182乐观的理由//188谨慎的理由//190

08可证明有益的人工智能

数学保证//197从行为中学习偏好//202辅助博弈//205要求和指示//215“主动嗑电”//218递归式自我完善//220

09复杂的难题：我们

不同的人//227许多人//229善良的、可恶的、爱嫉妒的人类//242愚蠢的、情绪化的人类//247人类真的有偏好吗？//250

10问题解决了吗？

有益的机器//263对人工智能的治理//265滥用//269衰弱与人类自主//270

附录A寻找解决方案//273

附录B知识与逻辑//283

附录C不确定性和概率论//289

附录D从经验中学习//301

致谢//311

注释//313

图片版权//357

斯图尔特·罗素（StuartRussell）

加州大学伯克利分校计算机科学家，人类兼容人工智能中心（CHAI）主任，人工智能研究实验室指导委员会（BAIR）成员。

世界经济论坛人工智能和机器人委员会副主席，美国科学促进会（AAAS）会士，美国人工智能协会（AAAI）会士。

曾与谷歌研究总监彼得？诺维格合著，出版了人工智能领域里的“标准教科书”《人工智能》，该书被128个国家的1400多所大学使用。

获得过多项科学荣誉，包括美国国家科学基金会总统青年研究员奖、国际人工智能联合会议（IJCAI）计算机与思想奖、国际计算机学会（ACM）卡尔斯特朗杰出教育家奖等，并受邀在TED、世界经济论坛演讲。

这本关于人工智能未来风险和解决方案的书值得一读，作者罗素很棒！

埃隆·马斯克（ElonMusk）

特斯拉创始人兼CEO

人工智能到底发展到了哪一步，未来会怎么发展，这本书代表主流专家意见，能让你迅速获得“当前科学理解”。作者是研究人工智能的教授，但书中并不过度讨论技术，他关心更大的问题：人的偏好可以“算法化”吗？人工智能是人类的威胁吗？人能限制人工智能吗？当前的答案并不乐观。到最后，你会发现人工智能的问题首先是“人”的问题：我们其实并不了解我们自己。

万维钢

科学作家

“得到”App《精英日课》专栏作者

这是一本引人入胜的巨作，无论一般读者还是人工智能专家都将从中获得启发。罗素教授对于超级智能这个人工智能的重大问题做出了深刻明确的分析。更重要的是，他提出了一个新颖的人机关系处理方案，为解决超级智能这个重要问题开辟了一个崭新的研究方向。

姚期智

中国科学院院士

2000年图灵奖得主

当人们为人工智能技术的突飞猛进而欢呼雀跃，并期盼着超级人工智能到来时，我们不能忘了人类正面临着一个非常关键的挑战：如何确保人工智能的发展以人为本，基于人类的共同价值造福人类？这本书为我们带来了罗素教授多年潜心的研究成果和深刻洞见，读起来令人赏心悦目。

张宏江

智源研究院理事长

源码资本投资合伙人

人类可能在不久的将来制造出超越自己的强人工智能，我很高兴人工智能知名学者斯图尔特·罗素教授不仅仔细推敲了这种可能性，还提出了一种巧妙的应对之策。

黄铁军

智源研究院院长

北京大学教授

01如果我们成功了

很久以前，我父母住在英国伯明翰大学附近。后来他们决定搬出这座城市，并把房子卖给了英语文学教授戴维·洛奇（DavidLodge）。那时候，洛奇已经是一位著名小说家了。我从未见过他，但我决定读读他的书：《换位》和《小世界》。书中的主要人物都是学者，他们从伯明翰搬到了加州伯克利。而我正是刚刚从伯明翰搬到伯克利的学者，这一系列的巧合似乎在提醒我要多多注意。

《小世界》中有一个特别的场景令我印象深刻。主人公是一位有抱负的文学理论家，他参加了一个重要的国际会议，并问一群领军人物：“如果所有人都赞同你们的观点，接下来会发生什么？”这个问题引起了恐慌，因为专家组成员更关心的是智力竞赛，而不是弄清真相、获得认同。当时我想到，我们可以对人工智能领域的领军人物提出一个类似的问题：“如果你们成功了会如何？”该领域的目标一直是创造出达到或超越人类水平的人工智能，但人们很少或根本没有考虑过，如果我们创造出了这样的人工智能会发生什么。

几年后，我和彼得·诺维格（PeterNorvig）开始编写一本新的人工智能教科书，书的第一版于1995年出版。这本《人工智能》的最后一节题为“如果我们成功了会如何”，它指出了出现好结果和坏结果的可能性，但没有得出明确的结论。到2010年第三版出版的时候，许多人终于开始考虑，创造超越人类的人工智能可能不是一件好事，但这些人大多是局外人，而不是主流的人工智能研究人员。到了2013年，我开始相信这个问题不仅是主流的人工智能研究人员应该考虑的问题，而且可能是人类面临的最重要的问题。

2013年11月，我在伦敦南部一座久负盛名的艺术博物馆——杜尔维奇绘画馆演讲。听众大多是退休人员，他们不是科学家，但是普遍对智能问题感兴趣，所以我只好做一次完全非技术性的演讲。这似乎是一个在公共场合验证我的想法的合适场所。在解释了人工智能是什么之后，我提出了5个“人类未来事件”的候选选项：

1.我们灭亡了（因为小行星撞击、气候灾难、流行病等）。

2.我们都能永生（医学攻克了衰老）。

3.我们发明了超光速旅行，征服了宇宙。

4.高级外星文明造访了我们。

5.我们发明了超级人工智能。

我认为第5个候选选项，即我们发明了超级人工智能，将会胜出，因为如果可能，超级人工智能将帮助我们避免灾难，实现永生和超光速旅行。它将代表我们文明的一次巨大飞跃，或者说一次突变。超级人工智能的到来在许多方面类似于高级外星文明的到来，但前者更有可能发生。也许最重要的是，人工智能不同于外星人，它是我们对其有发言权的东西。

然后，我让听众想象一下，如果我们收到一个来自高级外星文明的通知，说它们将在30到50年后到达地球，会发生什么。“乱作一团”这个词并不能准确地描述这种情景。然而，我们对超级人工智能即将到来的反应却是……“冷淡”。（在后面的演讲中，我用图1所示的电子邮件交流的形式对此进行了说明。）最后，我将超级人工智能的意义解释为：超级人工智能的成功将是人类历史上最重大的事件……或许是人类历史上的最后一个事件。

在那之后几个月，也就是2014年4月，我在冰岛参加一个会议，美国国家公共广播电台打来电话，问我是否可以接受他们的采访，谈谈刚刚在美国上映的电影《超验骇客》。虽然我已经看过了剧情概要和影评，但我还没有看过电影，因为我当时住在巴黎，电影要到6月才会在巴黎上映。然而碰巧的是，我在从冰岛回家的路上绕道去了波士顿，参加美国国防部的一个会议。所以，到达波士顿洛根机场后，我乘出租车去最近的电影院看了这部电影。我坐在第二排，看到约翰尼？德普饰演的加州大学伯克利分校人工智能教授遭到了对超级人工智能存有担忧的“反人工智能激进分子”的枪击。我不由自主地瘫倒在座位上。（又是巧合在警示我吗？）在这名教授死去之前，他的意识被上传到一台量子超级计算机上，这台计算机迅速超越了人类的能力，威胁要接管世界。

2014年4月19日，我和物理学家迈克斯？泰格马克（MaxTeg-mark）、弗兰克？威尔切克（FrankWilczek）、史蒂芬？霍金（StephenHawking）合写的关于《超验骇客》的影评被发表在了《赫芬顿邮报》上。其中包括我在杜尔维奇绘画馆的演讲中谈到的人类历史上最重大的事件。从那时起，我便公开承认，我的研究领域对我自己所属的物种构成了潜在危险。

我们如何走到今天？

人工智能的起源可以追溯到很久以前，但它正式启动是在1956年。两位年轻的数学家约翰？麦卡锡（JohnMcCarthy）和马文？明斯基（MarvinMinsky）说服了著名的信息论创始人克劳德？香农（ClaudeShannon）和IBM（国际商业机器公司）第一台商用计算机的设计者纳撒尼尔？罗切斯特（NathanielRochester）加入他们，一起在达特茅斯学院组织一个暑期项目。项目的目标如下：

这项研究基于一个猜想：“学习”的各个方面或“智能”的任何特征在原则上都可以被精确地描述出来，所以人们可以制造一台机器来模拟“学习”或“智能”。人们试图让机器使用语言，形成抽象概念，解决现在人类面临的各种问题，并让机器自我改进。我们认为，一个精英科学家小组如果共同努力一个夏天，就可以在其中的一个或多个问题上取得重大进展。

不用说，我们花费的时间已经远远超过了一个夏天，但我们仍在努力解决这些问题。

在达特茅斯会议后10年左右的时间里，人工智能取得了几项重大成功，包括艾伦？罗宾逊（AlanRobinson）的通用逻辑推理算法和阿瑟？塞缪尔（ArthurSamuel）的西洋跳棋程序，这个程序通过自学战胜了它的创造者。第一次人工智能泡沫在20世纪60年代末破裂，当时，人们在机器学习和机器翻译方面的早期努力没能达到预期。英国政府在1973年委托撰写的一份报告中总结道：“到目前为止，该领域的任何发现都没有产生当初承诺的重大影响。”换言之，这些机器不够智能。

幸运的是，当时11岁的我并不知道这份报告。两年后，我得到了一台辛克莱剑桥可编程计算器，我想让它变得智能。然而，辛克莱的程序有36步运算限制，这对于人类级别的人工智能来说还不够大。我并没有泄气，而是使用伦敦帝国理工学院的CDC6600超级计算机编写了一个国际象棋程序——一沓两英尺高的穿孔卡片。虽然这个程序不够好，但是没关系。我知道我想做什么。

到了20世纪80年代中期，我已经成为加州大学伯克利分校的一名教授，由于所谓的“专家系统”的商业潜力，人工智能正在经历一次巨大的复兴。当这些系统被证明无法完成人们指派给它们的许多任务时，第二次人工智能泡沫破裂了。同样，这些机器也不够智能。人工智能的寒冬随之而来。我在伯克利开设的人工智能课程目前有900多名学生，而在1990年，我只有25名学生。

人工智能界吸取了教训：显然，机器越智能越好，但我们必须做好功课才能做到这一点。这个领域与数学的关系变得尤为密切。人们将人工智能与历史悠久的概率论、统计学和控制理论建立了联系。今天，进步的种子是在那个人工智能的寒冬播下的，包括对大规模概率推理系统以及后来众所周知的深度学习的早期研究。

从2011年前后开始，深度学习技术开始在语音识别、基于机器视觉的物体识别和机器翻译方面取得巨大进步，以上是人工智能领域最重要的三个开放问题。从某些方面来看，机器在这些方面的能力已经达到甚至超过了人类的能力。2016年和2017年，DeepMind（英国人工智能公司）的AlphaGo（阿尔法围棋）击败了前世界围棋冠军李世石和后来的冠军柯洁，而此前一些专家预测，这种事情如果会发生，也要到2097年才会发生。

^_^:0f7b7afa4587406e6d4ffc9835a94085