Understanding Machine Learning读后感100字

《Understanding Machine Learning》是一本由Shai Shalev-Shwartz / Shai Ben-D著作，Cambridge University Press出版的Hardcover图书，本书定价：USD 48.51，页数：424，特精心收集的读后感，希望对大家能有帮助。

《Understanding Machine Learning》读后感(一)：PAC - Bayes Bounds

这本书是对于想要知道ML更深的理论知识特别是statistical learning的一本必读书。不过里面的notation有的时候真的很乱。

给出了不少平时不太会在别的书里看到的理论证明，比如PAC-Bayes Bounds，regularized risk minimization principle，非常elegant。而且经常会有定性和定量的两种讨论，对于理解这些理论很有帮助。

《Understanding Machine Learning》读后感(二)：非常好的一本 Machine Learning 理论书

这本书第一部分详细地介绍了 PAC学习理论（计算学习理论和统计学习理论）。与Foundations of Machine Learning 不同之处在于，其在第四章 抽出了 Uniform Convergence（依概率一致收敛） 这一特性，这使得对 Agnostic PAC learning 下的泛化界的导出更加清晰。Uniform Convergenc 这一特性其实就是使用 依概率逐点收敛（利用 Hoeffding 不等式）+对整个假设空间的一致性（利用很松的 Union bound）来导出的，并没有新的东西，而在Foundations of Machine Learning 中虽然这一特性没有显式表述，但其实证明过程是一样的。另外值得一提的是，作者在 2.3.1 节 有限假设空间可分情况下的样本复杂度，这一推导过程每一步都非常细致，简直完美，堪称证明的典范。

总结 PAC 泛化误差界理论如下：

在此书的第二部分， 作者对各种算法也有非常精辟独到的阐述。特别是 第十三章、第十四章 写的非常精彩。

有幸在 ACML2018 大会上见到 本书的共同作者中的Shai Ben-David 本人，其在大会上做了关于 Clustering Algorithm 的 Keynote speech.，非常精彩。

《Understanding Machine Learning》读后感(三)：一本较为不错的theoretical machine learning的读物

市面上关于machine learning (ML)的书很多，但是个人认为用一本书将ML的方方面面全部讲清楚是不可能的。粗略的来讲，ML的书籍可以分为算法(algorithm)和理论(theorem)两大类。前一类中，个人认为最近十年比较经典的教材包括Bishop的Pattern Recognition and Machine Learning，斯坦福三位大牛写的The Elements Statistical Learning，以及最近Murphy新出的的Machine Learning；但是后一类中比较经典的图书则不是很多，其中包括Michael J. Kearns的An Introduction to Computational Learning Theory，Luc的A Probabilistic Theory of Pattern Recognition，以及Vapnik的The Nature of Statistical Learning Theory。可惜的是，这几本书虽然可以称得上是经典，但几乎都是上个世纪的"上古"读物。此外个人感觉理论性较强，不大容易上手(废话，theoretical machine learning必须理论性很强啊！)。

最近有一本Mehryar Mohri等人写的"Foundations of Machine Learning"，应该说填补了近几年关于machine learning theory方面上的空白，虽然涉及的内容不是很多，但是ML里面重要的一些算法，思想基本上都涵盖在了里面，而且里面的证明推导比较细致，深入浅出，还是一本很不错的ML的理论入门读物。

这本Understanding Machine Learning是我去年底参加NIPS的时候在会场上直接从Cambridge Press的展台上买的，48刀，还算不贵。虽然副标题写的是from theory to algorithms，但是整体感觉还是偏重theory。我并没有通读这本书，但是单单从目录上来看，本书涵盖的内容要比上面提到的Foundations of Machine Learning多很多，但是也正是因为如此，很多内容也都是点到为止，并没有做太深入的讨论，有些证明的推导还得自己去研究。但是不论怎样，这本书给人的整体感觉还是不错的，和Foundations of Machine Learning一起作为theoretical machine learning的入门读物还是挺值得推荐的。毕竟相对于一个个鲜活的learning model，theory还是显得有些艰深晦涩，能用通俗易懂的文字把这些东西讲清楚本来就不是一件容易的事情。

顺便说说本书的两位作者，可能对于初搞ML的人而言，这两人并不是像Michael Jordan，Geoffrey Hinton， Andrew Ng那样牛逼闪闪的人物。但实际上这两位以色列人在theoretical machine learning还是有不少贡献的。而且我发现搞ML的以色列这一流派都很喜欢搞理论这一块，而且搞的相当不错，各种bound，regret，complexity，让人看的天花乱坠，顶级会议期刊各种灌，更有不少人在Princeton，Stanford这样的顶级高校中拿到了faculty position，其研究成果令人侧目。