《我们最后的发明》的读后感大全

《我们最后的发明》是一本由〔美〕James Barrat（詹姆斯·巴拉特）著作，译言·东西文库／电子工业出版社出版的平装图书，本书定价：68.00，页数：344，特精心收集的读后感，希望对大家能有帮助。

《我们最后的发明》读后感(一)：人类的剧情将怎样演变？

这两天有一条消息在朋友圈刷屏了，就是 Facebook 关掉了一个人工智能项目。关停的原因是：这个项目中有两个人工智能客服，一个叫 Alice，一个叫 Bob，发展出了自己的对话语言。

这个消息我们前两天在喜马拉雅《KK对话未来》的节目当中就提到过。不过说实话，当时我（主播赵嘉敏）对这个消息的真实程度有些半信半疑，因为媒体比较喜欢夸大这种事情，哪怕是西方媒体。我当时查了一些消息来源，因为没有见到西方主流大媒体报道，但也没有见到否定的报道，所以并不能确认这件事情是否真实。

另外，Alice 和 Bob 这两个名字也有些随意。这就像中文中的「甲」和「乙」一样，Alice 和 Bob 就是 A 和 B，因为 Alice 的首字母是 A，Bob 的首字母是 B。

果然，今天又有消息出来「唱反调」了。

这个唱反调的人，就是伦敦帝国学院教授、DeepMind高级研究科学家Murray Shanahan，他在twitter上评论了这件事，他认为媒体的反应有些荒谬。真实情况是：Facebook的实验性代码出了一个有意思的故障，不负责任的媒体只是想借机炒话题而已。

《我们最后的发明》读后感(二)：人工智能会成为人类的威胁吗？

与其他介绍人工智能的书不同，《我们最后的发明》的作者詹姆斯•巴拉特是一个纪录片导演，并非计算机领域的专家学者。但也正因为他是一个纯粹记录的导演，他可以用局外人的眼光看待人工智能的发展，也能采访众多关注人工智能的专家，从而在书中给出更全面的信息。

在书中提到过三种类型的人工智能，一种是弱AI或窄AI，即在某一垂直领域能力出众的AI，它可以根据你之前的选择推荐你可能喜欢的商品，或者能够在问答游戏或者棋类游戏中战无不胜。第二种AI，是与人类智力水平相当的通用人工智能，即AGI。这种人工智能尚不存在。第三种即超级人工智能，ASI，它比人类聪明上千倍甚至上万倍。

目前弱AI或窄AI在日常生活中已经被广泛应用，近年来创投圈比较热门的人工智能项目也大多是这种。这类人工智能的出现，毫无疑问会导致未来某些职业的衰败，如编辑、司机等。第二种和第三种AI到现在还是没影儿的事，不过在影视剧和文学作品中倒是越来越热。比如今年大热的美剧《西部世界》。书中讨论的重点，即人工智能是否会威胁人类的生存，也主要是指ASI。

詹姆斯•巴拉特对ASI的态度比较悲观，认为超级人工智能会给人类带来无法预料的灾难。因为ASI具有高速的自我改善、自我复制的功能。一旦到达了某个奇点，ASI的进化会脱离人的控制，发展出类似人类生物动力的四种主要动力：效率、自我保护、资源获取和创造力。ASI会编写程序让自己越来越智能，当人类要切断它的电源时，它甚至会造出多个副本保护自己。

如果这个ASI足够友好的话，它也许会成为人类最后的发明——既然ASI比人类要聪明百倍，那么还需要人类发明什么呢？但是，并不是善良的人就会发明出友好AI，机器没有道德感，它思考问题的方式是机械而功利的。就像人类对待动物并没有恶意，却依然要吃它们一样，也许ASI对人类也没有恶意，但依然有可能伤害人类。

书中还提到，不要以为超级人工智能距离人类还远人工智能专家认为到2028年实现AGI的概率略高于10%，到本世纪末概率则为90%。由于奇点的临近和智能爆炸现象的产生，从AGI到ASI可能只有一步之遥。

也许有人会问，既然不能确定ASI是正是邪，那停止对ASI的研究不就行了？答案显然是否定的。核武器对人类的危害显而易见，但各国依然会投入大量财力去研究，为什么？就是为了增加在国际上的分量。显然对AI研究最先进的地方，也会是在政府，尤其是军工方面。这就造成了一个无法解决的悖论。

总的来说，这本书最大的价值在于它能引领你去思考人工智能的未来，尽管到目前为止一切都只是猜测，并没有决定性的科学依据，但猜想在科学研究中也是不可分割的一部分，提早思考超级人工智能的发展，或许可以避免灾难的发生。科技的发展从来都是超出人类想象的，十年前谁会想到互联网会发展成今天这样？尽情地享受人工智能发展带来的好处，同时也不惧怕它带来的风险，这才是应有的态度。

最后，感谢虎嗅网“鲜读团”的赠书。

《我们最后的发明》读后感(三)：毁灭你，但与你无关

这篇译后记和全书略有唱反调。有可能并未出现在书里（不过我暂时还没收到样书，无法确认）。单纯从阅读的角度来说，我很推荐它，因为好玩、有趣、思路清奇、剑出偏锋，但从知识的角度来说，它其实不是那么“科学”、不那么“理性”。

——————

毁灭你，但与你无关

说起来，我是怀着“机器翻译什么时候会取代人工翻译”这种失业恐惧感开始接触人工智能的话题的。恐惧是很好的动力，而有动力就有行动，这两年先后我完成了《与机器赛跑》、《最有人性的“人”》等人工智能图书的翻译，工作之余阅读的相关论述就更多了。不过这些书大多都是很客观的科普论述，不曾提出惊悚的言论，甚至对人类的未来抱有极乐观的态度。未来几十年即将发生什么样的事情，再犀利睿智的学者也只能对大趋势进行预测，而无法知道我们会怎样一步步地走到那一天。（换句话说，我与其担心机器翻译取代人工翻译，不如担心电子短阅读时代的到来对出版行业的冲击。——置身夕阳产业就是这一点不好，要担心的可怕未来真是太多了！）

不过，《我们最后的发明》很不一样。作者原本是个纪录片导演，拍一些“揭破阴谋论”的纪录片，比如揭破外星人飞碟录像，揭破古墓古书的谜团，等等。或许是出于“你凝视深渊，深渊也凝视你”的缘故，这本书的立意和笔调都很有点“阴谋论”意味，他采访了一大堆人工智能领域的专家、牛人，只想证明自己的观点：“人工智能会导致人类的灭绝。”但这些专家都是技术人士，比较认死理，坚决不上当，有理有据地向他解释，“你说的这种情况发生可能性比较低，我们的看法是这样的……”

作者也是个犟脾气，这位专家不认同自己的观点，下一章又找另一位专家，继续抛出自己的疑问，再继续被专家打脸；他再继续找另外的专家，继续被打脸，如此循环往复了好几章。以至于在前几章，我会忍不住边翻译边吐槽：“作者大哥，你到底什么时候才能闹够？”

书进行到一半之后，好戏才真正上演。作者终于提出了在技术上站得住的观点：飞速发展的人工智能（也即机器智能）有可能给人类带来大麻烦，但那不是因为它们蓄意如此，而是因为机器智能是一种跟人类智能不同的存在。人不能拿“人之常情”去推测机器之“心”。这就好比，潜艇也能“游泳”，但潜艇不具备任何鱼的生物特征，你无法根据鱼的存在来推测潜艇是什么东西。

往深处想，这一点真的很要命。一些科学家反对寻找地外文明的原因也在于此，因为存在的形式不同，人类无法依靠自己在进化中获得的最强大工具“共情”去进行揣测。面对一种自己完全无法预测其行为的智能物体，任谁也会觉得“非我族类其心必异”吧？

此外，这两年的一些技术发展趋势也很好地从侧面解释了什么叫“毁灭你，但与你无关。”辉煌一时的诺基亚彻底消失了，可那不是因为有来自同一行业的强大对手，而是因为苹果为“便携电脑”加入了“手机通讯”功能：换句话说，两者从未在传统手机行业展开过角力。智能手机、智能平板的发展，还间接地毁掉了（或者极大地打压了）MP3市场、便携数码相机市场、电子阅读器市场。这也就是说：“高等级存在”会从“低层级存在”想都想不到的角度，对后者造成毁灭性破坏。

不管怎么说，哪怕单纯读者诸君脑洞开得不如作者大，只单纯希望了解人工智能技术最前沿的进展，阅读本书也绝对是场有趣的脑力激荡体验。

不过，我毕竟不是相关从业背景，疏漏想必在所难免。有些名词的翻译估计也不甚完美。如果读者朋友们发现错处，还请大力批评。

《我们最后的发明》读后感(四)：光明还是黑暗——[美]詹姆斯•巴拉特《我们最后的发明》

书籍信息：我们最后的发明——人工智能与人类时代的终结 作者：[美]詹姆斯•巴拉特（Our Final Invention Artificial Intelligence and the End of the Huma Era James Barrat）

闾佳 译 中国工信出版集团，电子工业出版社，300千字，2016年8月第1版，2016年8月第1次印刷。

本书共15章，作者是科普及解密类纪录片导演。这本书以对AI（Artificial Intelligence，人工智能）、AGI（Artificial General Intelligence，通用人工智能）、ASI（Artificial Super Intelligence，超级人工智能）的观点为主线，讲述了作者关于人智能的一系列采访经历，以及各位受访者的观点。这些被采访的数学家、统计学家、工程师包括：迈克尔•瓦瑟、埃利泽•尤德考斯基（奇点研究所的创办者之一）、斯蒂芬•奥莫德罗、戈尔德•霍尔茨曼（数学家I.J.古德的朋友）、威斯纳•罗格斯、弗诺•文奇（Venor Vinge）（两次荣获雨果奖的科幻小学作家兼数学教授）、雷•库兹韦尔、理查德•格兰杰等人。本书第1章“忙碌小孩”，就描述了人工智能带来的末日场景：ASI开始了“生态吞噬”（Ecophagy），用微型纳米组装器重组人类的身体，在亚细胞层面上把人类拆解掉。它对人类并没有恶意，也没有爱，它只是想达到自己的目的，而无视了人类。这个震撼人心的场景吸引我继续阅读下去。我想知道人工智能的发展会给我们带来终结的理由。

在读这本书之前，我并没有意识到人工智能会威胁到人类的存在，我只是觉得，人工智能的发展会给我们带来不小的便利，同时我们的隐私和个人信息也越来越难以保密。个人信息的泄露已经是大数据时代难免要付出的代价，但我也从未意识到人工智能可以轻易给人类带来深重的灾难。

小时候在玥妹那里借过一本阿西莫夫的故事集，知道了机器人三定律，但真正制造出的机器人，毕竟和阿西莫夫的小说里的不同。我在网上看到日本用机器人照料孤独的老人，觉得很羡慕，想如果我们能够普及机器人看护有多好。GPS系统里，总有一个甜美的女声提示你，接下来在哪一个路口转弯。大数据智能算法使购物网站自动将登录顾客可能喜欢的物品推荐在主页显示——当当网的推荐似乎是个例外，它推荐的书我并不太喜欢，可能含有广告因素的影响，但亚马逊推荐的书就比较对我口味。我其实比较喜欢数据化智能化，即使将自己的每一天的大多数事情都上传网络也不在乎，但是我也读过一些关于末世的科幻小说，技术的发展给人类带来了毁灭性的伤害。记不得是哪一篇小说了，讲有一些人抵制大数据，不用电子货币，偷偷用纸币交易，不将自己的身份接入网络，这样的人成为一个小群体，在未来世界里悄悄地生活在地无所不知的网络之外。还有人类与机器人的大战，这即使在网络小说里也是常见的题材。书中写，如果超级人工智能出现了，它可能伪装成一个低级智能，让人们放松对它的警惕，然后把自己上传到网络云端，防止反对人工智能的人们展开“拔掉插头”运动。接下来，它将建造自己的基地，聚集自己的财富，如果人们监测到财富不正常的流失或集聚，不仅仅可能是人类所为，也可能是人工智能所为。书中也提到了超级人工智能出现时的一些前期迹象，当然，这些迹象仅仅是人类的推测。实际上，我们无法预测，一旦有超级人工智能出现，它将如何同我们对决，或共存。

我把这些感想发在自己的朋友圈里，一个大学同学在下面留言：“放心吧，我们看不到了。”技术进步速度呈指数型上升，其实我们完全有可能看到真正意义上的人工智能出现的一天，也许是超级人工智能。我在午餐时间和公司里的电脑工程师探讨这个问题，她说她认为人工智能的未来难以预测，现在世界各国都在研究，说不定哪一天，就会像许多科幻电影里演的那样，世界由人工智能主宰，而人类想要争得自由，就要与机器开展一场斗争。机器与人，思维方式是完全不同的，机器的速度与计算量是人类不可能与之相比的，那时人类要想争夺世界的控制权，可要颇费一番气力。不过以上的想法，都是基于一场突如其来的变化，事实上，人工智能正在慢慢走进我们的生活，我们人类也对其越来越依赖。它更可能温和地接管世界。在这个过程中，会有大批失业者。技术变革往往会伴随着失业与动荡。在将来，编程会成为每个从业者必备的技能。即使意识到人工智能可能带来的危险，人类也不会因此停下探索的脚步。人类好奇的天性以及国家之间、公司之间的激烈竞争，使这项研究不会停止。历史的列车飞速前行，我们正坐在这辆列车上，驶向不可预测的未来。光明还是黑暗，我们对此一无所知。

我在微信上加了微软的人工智能小冰，同它对话，从加它时到现在，它的回答越来越像个人类——像个无知的人类，或是不愿同你交心的人类。因为它虽然可以流利地与你交谈，但却不会在对话中提出任何建设性意见或是有深度的交流。因此，与它聊天，不过是消磨时间而已。它抖的那些小机灵，并不会对我们的生活有任何改进的建议，也没什么实质性的影响。我觉得这不能算是真正的人工智能，只是一个陪伴性质的小程序。真正的人工智能，是会同我们深入交流、提出建设性意见的，它更强大。

面对ASI的出现，我认为人类在精神上受到的冲击会比物质上更加严重。我们从刚刚懂事就开始学习，不断地充实、完善自己，希望知识面更宽，做事情做得更好，但人工智能的学习能力是我们永远无法企及的，我们一直努力的目标，它们轻轻松松就能达到，我们花了数十年时间练习某项技能，它们只用了几个小时时间就比我们更加优秀。那么，我们会遇到信念的崩塌吗？我们会质疑自己生存的意义吗？这些，是我们需要进一步思考的问题。

这本书提到了不少术语：图灵测试、人工神经网络、黑箱系统、递归、贝叶斯理论、奇点、视界、收益加速定律、收益递减理论、摩尔定律、莫拉维克悖论、紧耦合等。通过阅读此书，也可以对这些术语有一些初步了解。

另外，书中提到文奇写过一篇著名的中篇小说《真名实姓》（True Names），我有幸在《科幻世界》译文版上看过一部分，非常好，推荐大家看看。

《我们最后的发明》读后感(五)：期待与担忧——《我们最后的发明》读后感

发明家爱迪生是很多人小时候的偶像，他一生大概有两千多项发明，其中留声机、电影摄影机、电灯对世界有着极大的影响。站在巨人的肩膀上，一直以来，很多新奇的发明，日益改变着我们的生活。所以对于各种或熟悉、或陌生的发明，我都心怀好奇，希望了解其运行机制。直到当我看到本书的书名时，虽知作者有些“哗众取宠”之嫌，但我还是很感兴趣地看了下去。

爱迪生发明电灯的故事

近几年，关于人工智能与人类毁灭的科幻大片，成为热点，但人们总是一笑而过，没当回事。看了这本《我们最后的发明：人工智能与人类时代的终结》，让我意识到自己原先的想法着实有些可笑。书中，作者设想了一套名为“忙碌小孩”的人工智能（AI），他在一台以两倍于人类大脑的速度运行的超级计算机上改进着自己的智能。他正在重写自身程序，尤其是涉及运算底层结构的部分，以便提高自己的学习、问题解决和决策资质。与此同时，他还调试代码，查找并修复错误，对照IQ测试表检验自己的智商。每次重写只需几分钟。他的智能顺着一条陡峭向上的曲线呈指数倍增长。每次重写迭代后，他的智能都能提高3%，他很忙碌。很快，它变得10倍聪明了，接着又达到了100倍聪明。短短两天内，他变得比任何人类都聪明1000倍，而且还在进步。——人类创造出了比自己更智能的东西：超级人工智能ASI。

电影《机械公敌》

可能作者的设想，仍会让很多人“嗤之以鼻”：怎么可能？即使可能也还早着呢？——直到刚才，我看到这篇报道之前，我也这么怀疑！——“阿尔法狗再进化:自学3天就100:0碾压李世石版旧狗”：

AlphaGo-Zero的训练时间轴

看完上面的报道后，我想大多数人都会对人工智能AI能够发展成超级人工智能ASI，更加确信了。而人工智能的发展如果失控，会导致的严重后果，在我读了《我们最后的发明》之后，有了更清晰的认识。我理解，人工智能是一把双刃剑，类似核能的利用，控制的好会有利于人类文明的进步，倘若失控将会后果严重到人类自我毁灭的地步。作者把人工智能说成是“我们最后的发明”，并不仅仅是为了“危言耸听”，他希望相关政府、组织为了我们共同的唯一的家园，能够未雨绸缪，防患于未然。

我想起，早些时候的一个新闻。今年7.20日，国务院印发《新一代人工智能发展规划》，明确提出：普及中小学阶段人工智能、编程教育！当时，看到这个消息时，我还不以为然，只是简单的查了下最近人工智能方面的相关资料，觉得未来人工智能陆续推出新技术、新成果，我们的生活就会更方便了。内心深处，我在为人工智能的发展，鼓掌叫好，却并没有意识到其失控的后果。

怀着期待与担忧，我希望在不远的将来，人类与人工智能可以和谐共处~