绿林网

现代简史:从机器到机器人读后感锦集

现代简史:从机器到机器人读后感锦集

《现代简史:从机器到机器人》是一本由杜君立著作,上海三联书店出版的平装图书,本书定价:59.80元,页数:368,特精心收集的读后感,希望对大家能有帮助。

《现代简史:从机器到机器人》读后感(一):一本难得的好书

《现代简史》是一部难得的好书!其内容简洁、丰富、公正、客观,集知识性、娱乐性于一体,展示真实的历史。其是《现代的历程》的缩编版。1111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111111

《现代简史:从机器到机器人》读后感(二):写一篇测试长评

《现代简史:从机器到机器人》由杜君立在《现代的历程》一书基础上重新进行精简和改写而成,作者亲自担当装帧设计。该书从15世纪的时间革命和印刷革命写起,详述科学革命、启蒙运动、工业革命,直至当下正在发生的信息革命,独辟蹊径,用机器的革命性讲述了一个有趣有料的现代史。《现代的历程》好评如潮,《现代简史:从机器到机器人》根据读者需求量身打造,简洁明快,一气呵成,更适合大众阅读。

*新锐历史作家杜君立倾力之作,著名历史学家许倬云先生热情推荐

不同于一般的世界通史和现代史类作品,《现代简史:从机器到机器人》不仅涉及技术史、经济史、文化史等,同时还关注到中国从传统走向现代的伟大变局,夹叙夹议,引人入胜,让读者在不经意中品味到一场精彩的思想盛宴。对置身现代浪潮的国人来说,了解历史,首先要懂得现代文明的来龙去脉,这样才能让我们看清当下,感知未来。

《现代简史:从机器到机器人》读后感(三):先睹为快,新书一瞥

2018年5月19日:今天一早就见到了《现代简史:从机器到机器人》,大小薄厚都恰到好处,封面设计和版式也都中规中矩,仍是我自己的DIY。全书彩印,插图版,平装,双封面,20万字,365页,定价59.80元。 本书也不 完全是新作,是在《现代的历程》基础上删节压缩改写而成。《现代的历程》太大太厚,《现代简史》相对而言更加精简好读。这次新书出版特意去掉了书腰设计。机器时代,简单最好。 本书写作用了一年,出版用了一年,距离《现代的历程》出版,已经将近两年。对于一本写现代历史的书而言,这两年发生了很多技术方面的巨变,尤其是人工智能,因此,本书加写了关于手机和人工智能方面的新内容。

《现代简史:从机器到机器人》读后感(四):神经网络阴谋运动 neural network conspiracy

“人民叛乱了?”

“不,陛下,人民革命了。”

政权的更迭不一定是革命,而普通的国民卡路里摄入量的提高倒有可能算是真正的革命性的变革。——福柯

“技术不是科学和经济的副产品,或许恰好相反,科学和经济是技术的副产品。”

透镜和望远镜先于光学理论

蒸汽机先于热动力学

飞机先于空气动力学

无线电和数据通信先于信息理论

计算机先于计算机科学

“试错大法”(trial and error)

事实上,反向传播并不是通过深入探索大脑,解读思想本身被发现的;它源自于经典推理实验中,动物如何通过“试错法”学习的模式。

“解决科学问题相当简单:尝试一切东西,如果不work,换一种试试。”

(Solving scientific problems is fairly straightforward: try everything, and if nothing works, try something else. )

“这太痛苦了”“我们感觉自己正在使用外星技术” “机器通过试错(trail and error)学习”

"There's an anguish in the field" "Many of us feel like we're operating on an alien technology"

挤压“科学进路”

人工神经网络挤压“科学进路”

我们看到的是这些“蛮横无理”,“僭越等级”的做法,我这么说是因为:它们所呈现的成果只是“向中 心趋势收敛的可能性非常大”,看起来它们试图通过借助非常昂贵的(时间,能源,金钱)“计算”来挤压“科学进路”,它们丝毫不尊重我们对“解释”的需要。[惊恐][惊恐][惊恐][惊恐]

(what we see with these methods is an over-bearing, over-lordship that presents results obtained because of the likelihood of central tendency convergence being fairly strong and that seems to want to squash the scientific approach through application of immensely expensive (time, energy, money) computation without due respect for our need for explanation. )

范式冲突

范式冲突如杀人父母

不是每个人都相信

1995年赌约

1. Jaekel打赌(一顿大餐),到2000年3月14日,人们将能够定量地了解大型数据集上大型神经网络工作不是很糟糕的原因。 (理解意味着找到condition和bound)。

Vapnik打赌(一顿大餐)Jackel是错的。

但是如果最后是Vapnik指出了bound和condition,Vapnik仍然赢。

2. Vapnik打赌(一顿大餐),到2005年3月14日,只要脑子正常,就不会继续使用1995年使用的那种神经网络。

Jackel打赌(一顿大餐)Vapnik是错的。

见证人LeCun 3/14/1995

结局

lecun蹭大餐

1995年的赌约

2000年,一顿华丽的四人大餐,Jackel请客(我们不能证明为什么Yann的多层网络工作得如此好)

2005年,一顿华丽的四人大餐,Vapnik请客(Yann的网络仍然在使用中并持续变得更好)

Yann和Leon没有打赌,但他们也要吃饭。

Canadian Mafia 加拿大黑手党

neural network gangster 神经网络黑帮

人工神经网络暴君Greffrey hinton:

“We ceased to be the lunatic fringe” “We’re now the lunatic core”

“我们以前是极端分子(精神错乱的边缘人)”“我们现在是狂热核心”

“这个世界上,只有hinton知道大脑是怎么work的。”

“让棒球运动员和物理学家比一比,预测棒球落地位置。棒球运动员一次又一次地抛了一百万次球, 他可能不了解任何方程式,但是他知道球到底会有多高、能达到多大的速度以及它会降落到地面的位置。物理学家可以写方程式来判断同一件事物。但是二者终将殊途同归。”--geoffrey hinton

我没有接受过计算机科学的训练

你说得对,我没有接受过计算机科学的训练。我这里有一个适合每个人的花招:如果你对某个领域一无所知,把你自己变成这个领域的教授。然后就没人再来跟你逼逼了,因为你已经知道了这个领域的一切东西。[委屈][委屈][捂脸][捂脸]

一把梭

大脑代表一个更大,更黑的黑盒子。我们的成年大脑拥有860亿个神经元,之间更有数百万亿个突触连接,很可能采用了一揽子的“花招”来提高泛化能力,这些“花招”建立在婴儿期发生的基本图像和声音识别学习过程上。这一切可能在很多方面类似于深度学习。

(the brain represents a much bigger, blacker black box. Our adult brains, which boast several hundred trillion connections between 86 billion neurons, in all likelihood employ a bag of tricks to enhance generalization, going beyond the basic image- and sound-recognition learning procedures that occur during infancy and that may in many ways resemble deep learning. )

对象或语音识别背后的学习过程和物理学家的技巧之间,具有哲学上的相似性。[微笑][微笑]

(a philosophical similarity between physicists’ techniques and the learning procedure behind object or speech recognition.)

反向传播

"If you believe there is only one right answer, backpropagation is not for you. Neither is life, really." --Geoffrey Hinton

我不会用它(数学公式)折磨你们的,它叫做反向传播。它只是简单的干更多的活,和我刚才说的变异大法(一个一个地调试突触连接weight)不同,它并行地处理所有的weights,如果你有一百万个weights,它就比你只有一个weight的时候快一百万倍。如果你有十亿个weights,它就快十亿倍。如果你有100万亿个weights,它就会快100万亿倍快,此刻的你仿佛走到了宇宙的尽头[微笑][微笑]。OK,这种情况很好,这个数字可以让物理学家们铭记于心。

如果bp被证明是真正好的学习大法,那进化一定找到了(在人脑)实施它的方法。我的意思是,你体内的细胞竟然能变成眼球和牙齿这样的东西,它们连这种奇葩事情都能做到,想必在巨大的选择压力下,它们肯定也能实施反向传播。

神经科学家觉得这不合理,这种想法很傻逼,大脑肯定有(比反向传播)更微妙的方式。我认为大脑采用的方法即使不是和反向传播完全相同的方式,肯定也非常类似。

(So I think the neuroscientist idea that it doesn't look plausible is just silly. There may be some subtle implementation of it. And I think the brain probably has something that may not be exactly be backpropagation, but it's quite close to it. )

门下走狗Blake Richard:

椎体神经元

过去几年,神经科学领域产生的最有趣事情就是:相比其它任何一个神经科学家做的试图解释人脑的模型,深度学习模型是真的更符合我们使用FMRI在猴脑上记录下来的的新皮层表征。我觉得这真是一个超级有趣的事实。

更有趣的事情是:深度学习模型更类似我们观察到的人脑颞下皮质的表征。这真是一件标志性的事情啊!

FMRI现代的颅相学

深度学习已经接管了AI ,有一个很好的原因——它能work。

它在Al中能work的原因,也同样适用于我们自己的大脑——进化肯定已经找到了某种方式,在分层的多层网络中进行信度分配。

我们的大脑可能不会做人工神经网络中的那种反向传播,但是锥体神经元可能已经演化出某种特殊的生理机制,来解决信度分配问题。这种现象确实暗示:锥体神经元的大脑区域在进行深度学习。

局部搜索(梯度下降/反向传播)确实是神秘的。但是,我们真的能期待一个严格的局部搜索理论来预测或解释人脑的进化或数学知识的历史演变吗?我们真的可以期待通过某种梯度下降的二阶分析来预测未来二十年将涌现哪些数学理论?我的立场是,局部搜索(梯度下降/反向传播)是非常强大的,从根本上超出了任何完全严格的理解。

“thought”

拉鸡巴倒吧

hinton:它们(人工神经网络)自动学习,无需任何人工干预。

Steve:它们在思考吗?

hinton:你可以这么说。

Steve:我刚刚这么个说法准确吗?毕竟这只是我个人的独立思考。

hinton:你这样说会激怒一些哲学家,但是我认为它们确实在思考。

Steve:这话题太沉重了。

咬hinton几口

we declare that state vector to be the “thought”.

I can argue about why this justified.

我们宣布(人工神经网络里的)状态向量就是“思考”。

我可以为这种说法的合法性争辩(撕逼)。

在Hinton看来,这就是“思考”(思想)应该是的样子:一种向量的舞蹈。

(In Hinton’s view, that’s what thought is: a dance of vectors. )

它们在隐藏层的内部状态中累积信息,隐层的最终(输出)状态就累积了(我们输入的词的)所有信息。我们将称之为“思想”(thought),我敢这么说并非只是一种修辞(literally)而已,我的意思是这确实是一种“思想”(thought)。你们以前肯定没有见过“思想”是什么东西吧?快来看看,我这里刚好有一个[微笑][微笑]

新范式—“类比”(analogy)

垂死挣扎

“analogical reasoning”VS“symbolic inference”

这里有一个生物学启示的“认知科学”新范式:我们有生物组织的大脑,被演化用来做“看”和“运动”这 种事情。它们不是演化来做“逻辑”,也不是演化来做“自然语言”的。它们是被演化来干其他事情的,它们被高度的优化来干这些其他事情(看和运动)。然后我们把这些高级的东西(逻辑和自然语言)强加在了这些东西(看和运动)之上。

“因果关系推理来的很晚,并利用了为其他目的(看和运动)而设计的硬件”

我觉得我还可以抢救一下

来自神经科学的女观众提问:how do you define “consciousness”?[可怜][可怜]

hinton:神经网络给我们的部分启示是:人不是通过“逻辑”(logic)work的,而是通过“类比”(analogy)work的。他们在很“老”的时候和接受很多训练后,才开始使用“逻辑”。但是实际上,他们真的是通过“类比”work的。

我对于这个问题(意识“consciousness”到底是什么)的回答是“类比”(analogy)。

[委屈][委屈][委屈][委屈][委屈][快哭了][快哭了][快哭了]

大脑是通过类比(analogy)来思考的,而不是通过逻辑(logic)。

hinton:我不认为我们可以理解它们是怎么思考(thinking)的,图灵也是这么认为的。图灵确实信仰神经网络,他不相信我们只是图灵机而已,他做了一些关于神经网络的早期工作。我也不知道在什么地方,他说过“我们不可能知道它们是怎么work的”。

sutton:别闹了,我们也不知道我们(的脑子)是怎么work的。

bengio圆场:但是我们可以理解它们底层的基础原则(基本法),它们的学习程序,底层目标和计算基础。

well,如果你把这些神经网络(内部状态向量)拼起来,那就是“思想”看起来应该应该是的样子。它应该就是循环神经网络最终(输出)的状态向量(state vector)。[微笑][微笑]

Werbos老仙:

minsky是政客

上周我们发布的一个paper,强烈暗示了人脑在做循环神经网络里的那种反向传播,来预测这个世界。这种撕逼言论很刺耳,很多人也许会说我疯了,反正我这一辈子都被认为是疯子。我在60年代到70年代在做反向传播那会,每个人都说:你肯定是个疯子(crakpot),那是不可能的。所以现在计算神经科学领域的人依然会这样说我。

1971年,我去找minsky说我有一个方法可以解决神经网络的问题,minsky说我不想做这个方法的paper的共同作者。minsky本可以分享反向传播的荣耀,minsky说我不想做这个,是因为神经网络模型在科学上有这么大的力量。它会把我从大教堂里赶出来,我会失去在MIT的地位。我不能冒这么大的风险,因为每个人都认为spiking的生物神经元是0/1二进制的,现在大家依然这样认为。

diss死人minsky

所以我向这个家伙(minsky)展示说,我们可以用新模型了,因为现在我们可以做反向传播了。他说,我无法逃离,因为在计算神经科学和(人脑)建模领地有太深的宗教信仰。如果我提出使用一个模型,对抗他们做了二十多年的东西,他们肯定会杀了我的…… 我不能在政治斗争上承受做这个东西的代价…… 也许他是对的,政治上他非常成功。这些东西没有一个work的,他始终处于防守状态,但是他政治上非常成功。

爱因斯坦还是其他什么人说过,如果你提出一个激进的新主意,或者一个新范式,你会经历三个阶段。第一个阶段:这个主意是彻底的crazy;第二个阶段:这个主意并没有提出什么新的东西;第三个阶段:不是你,而是我最先提出的这个主意。

我经历了这种事情,直说吧,我此刻就在经历这种事情。反向传播是第一个阶段;彻底的智能自适应系统是第二个阶段:第三个阶段会有一大帮物理学的家伙跑出来追忆说是自己首先提出的反向传播。

meme狂魔Bengio:

meme

“深度学习在所有机器学习方法中显得非常独特,它受到了人类大脑结构的一点启发。它可以让计算机学会多层次的抽象概念和表示,这是这些系统成功的原因。”

在深度神经网络训练中我们可以保留所有的特征。

在传统机器学习中,大家通常情况下会减少维数(神经元数量),只从中挑选最重要的特征构建模型,以提高模型的泛化能力。而我们的大型人工神经网络拥有更多的参数,以及非常出色的泛化能力。它的好处是,在深度神经网络训练中我们可以保留所有的特征。

我们从前一直纠结,在进行特征选择的时候往往会纠结到底保留哪些特征,又将哪些特征剔除,但几乎每一个特征都或多或少包含一些我们关心或者需要的信息,它们都能够为最终解决问题提供一些线索。然而完全保留在现实情况中往往是不可行的,此时患得患失的“特征选择纠结症”就会发作,你难以在大量特征中作出数量有限的选择,而深度学习就是给“纠结症”患者准备的一剂良药。

朋克中年Schmidhuber :

you again

卡尔·波普尔(Karl Popper)著名的说法:“所有生命都是问题解决者。”没有理论成功定义了问题解决者。从AGI的角度来看,意识最多只是问题解决程序的副产品。

我必须承认,我不是托尼尼理论的大粉丝。以下可能代表一个更简单和更一般的意识的意识。意识和感知所基于的符号和自我符号来自哪里?我认为他们来自解决问题时的数据压缩。让我剽窃我之前写的[1,2]:

当问题解决者与世界交互时,它应该存储动作的全部感官感受原始历史数据(包括回报信号)。数据是“圣洁的”,因为它是所有可知世界的唯一基础。如果你可以攫取数据,千万不要丢弃!大脑可能有足够的存储容量,以合理的分辨率存储100岁的数据[1]。

当我们与世界互动以实现目标时,我们就构建世界的内部模型,预测并压缩我们观察到的原始数据。如果预测器/压缩器是生物神经网络或人工循环神经网络(RNN),则其将自动创建特征层次结构,对应于与人类大脑中发现的简单特征检测器类似较低级神经元,较高层神经元对应于更抽象的特征检测器,但必要时以细粒度存储。像任何好压缩器一样,RNN将学习识别不同的已经存在的内部数据结构之间的共享规则,并且生成对频繁出现的观察子序列的原型编码(跨神经元集群)或符号,以缩小整体所需的存储空间(我们一直在我们的人工RNNs中观察到这一点)。自我符号可以被看作是这样的副产品,因为在代理的所有动作和感觉输入中都涉及一个东西-代理本身。为了通过预测编码有效地编码整个原始数据,它将从创建某种表示其自身的内部原型符号或代码表征(例如神经活动模式)[1,2]中获益。每当这个表示在某个阈值以上被激活时,例如通过新的感知输入出现或内部“搜索灯”运作或其它方式激活相应的神经元,此时代理可以被称为自我意识。无需将意识看成是一个神秘的过程 - 它只是通过有效地编码频繁观察,来压缩原始观察数据的天然副产品。

[1] Schmidhuber。(2009a)主观美学,新奇,惊喜,兴趣,注意,好奇心,创造力,艺术,科学,音乐,笑话的简单算法理论。 SICE Journal of the Society of Instrument and Control Engineers,48(1),第21-32页。

[2] J. Schmidhuber。哲学家和未来主义者,快跟上!迎接奇点到来。 Journal of Consciousness Studies,Volume 19,Numbers 1-2,pp。173-182(10),2012。

在业余时间,我在努力创作音乐,和视觉艺术。

我这样做,因为对我来说,显然艺术和科学和音乐都是由同一个基本原则驱动。

我认为艺术家,科学家和喜剧演员的基本动机(目标函数)是数据压缩处理(即数据压缩性能对观察历史原始数据的一阶导数)。我已经广泛地发表了这个观点。

物理学家可以获得固有的奖励,通过创建一个实验,目的是观察总结以前未公布的物理定律,这个定律可以更好地压缩实验原始数据。

作曲者得到固有的奖励,通过创建新的非随机,非任意的旋律,其具有新颖的,意想不到的但规则的和声,这些和声可以更好的对习得的观测原始数据进行压缩处理。

喜剧演员获得内在的奖励,通过发明一个出乎意料的小笑话,与他的故事的开头有关,并且虽然出乎意料但快速可学,这种幽默感可以更好地压缩感知到的数据。

在社会环境中,他们全部可以很快获得额外的外在奖励,例如获奖或票房。

一个令人难以置信的多样化的AI们试图优化各种个体的冲突(依此快速演化)的效用函数,这些效用函数大都自动生成(就像上个一千年我们人类已经演化出的人类的效用函数),在剧烈变化的生境中,每个AI都会不断试着使自己生存和适应于自己的生态位,由激烈竞争和合作驱动的生境变化远超我们当前的想象力。

黑手党MAFIA Thrun:

很多神经科学家觉得反向传播(相比人脑)过度简化。深度学习黑帮说它的性能在很多方面都超越了人脑。但是我看到的是一种收敛,这种收敛基于我感觉在(地球)生产线上有一种非常简单的结构。原谅我,我的神经科学家朋友,你们可能会和我撕逼。但是我认为如果它(这种简单结构)可以被塞进U盘(类比人类DNA),那它肯定没那么复杂。

黑帮分子GANGSTER Jeremy Howard:

这种在神经网络中演算的特殊基本大法,称作back propagation或back prop。事实证明人脑也在做反向传播,所以neural network天生就是作为大脑的简单复制品被建造的。人脑曾被认为不能反向传播,但是我们最近的探索确实显示了一些东西,我们现在知道人脑会做反向传播。

我最享受和女儿在一起的时光。她几乎对所有的事情都充满兴趣和好奇,我爱极了!平日我尽可能多花时间来阅读深度学习方面的相关论文和参考文献,因此没能有时间阅读其他的书籍。说实话除了深度学习,我也很难找到其他什么东西能引起我的阅读兴趣!

田渊栋:

我和我一个同学聊过,他现在是统计系的终身教授,列举了几个非常牛的数学家,问我AI再牛牛得过他们么?我没有正面回答,我在想人类看蚂蚁的时候会思考普通蚂蚁和聪明一点的蚂蚁之间的区别么?我这里并没有贬低数学家的意思,因为人类都是一样的,我也是微不足道的普通蚂蚁而已——相比耗能堪比一座小城市并且每几个月就更新换代的集群,人脑仅仅几十瓦的功率,神经元间慢达毫秒级的传输速度,败下阵来只是时间问题。而现在的人脑处理大部分任务甚至还远胜集群,可见人工智能潜力之大。我有时候觉得我们看到几颗星辰就以为是大突破了,其实我们还在漫漫长夜里瞎摸,太阳还没有露头呢。

算法的积累。硬件和驱动程序优化了多少万年了,软件也优化了几十年。然后从多少亿里面挑一些特别优秀的出来,当然好了。

朋克之王马克思:

先干再说

随着机械化和现代工业的诞生……发生了一场在强度和范围上都类似于雪崩的强烈入侵。一切道德和自然、年龄和性别、白天和黑夜的界限都被打破了。资本在狂欢。

生产的不断革命,一切社会关系不停的动荡,永远的不确定和骚动不安,这就是资产阶级时代区别于过去一切时代的特征。一切固定的冻结实了的关系以及与之相适应的古老的令人尊崇的观念和见解,都被扫除了,一切新形成的关系等不到固定下来就陈旧了。一切坚固的东西都烟消云散了,一切神圣的东西都被亵渎了,人们终于不得不冷静地直面他们生活的真实状况和他们的相互关系。

200多年前,人类走上了一条不归路:蒸汽机的发明引发了第一次工业革命。之后是以内燃机和电器为代表的第二次工业革命和以电脑互联网为代表的第三次工业革命。目前正处于以人工智能为代表的第四次工业革命的时代。在这里我想指出,所有这一切都不是科学!它们是在科学发现基础上衍生出来的技术突破。----鲁白

我们赖以生存的隐喻:

垂死挣扎

在语言的起源时,几乎每一个字都是一个比喻,每个短语都是一个隐喻。

思考需要有一个身体----不是在表层意义上你需要物质的脑子作为工具来做思考这个动作;而是在更深远的意义上,我们的思想结构源自身体的本质。几乎所有我们的潜意识联想都基于常见的身体经验。 ——George Lakoff && Mark Johnson

元模式:头脑会得到具体化体现。真理是一项隐喻性建设而非目标现实的属性。理性来源于我们的身体体验。 ——George Lakoff

我们通常的概念系统的大部分都具有比喻性。我们的思考方式,我们所经历的,我们每天做的,都与比喻有关。——George Lakoff

我们的概念系统大部分是隐喻:我们的思考方式,我们所经历的,我们每天做的,都与隐喻有关。——George Lakoff

本文由作者上传并发布(或网友转载),绿林网仅提供信息发布平台。文章仅代表作者个人观点,未经作者许可,不可转载。
点击查看全文
相关推荐
热门推荐