base on 《Deep Learning with Python》(Python深度学习) by Francois Chollet

Machine Learning

机器学习思想和传统编程的区别：

根据数据的答案发现统计规律，这个过程叫做training，而传统的是programming，即遵循程序员写定的rules完成输入到输出

但是，这种统计规律是传统数量统计难以分析的，它并非像是一门数学，而是一种工程经验，实践结果永远大于理论推导

根据一个指标衡量现在的输出和理想输出的距离，用它来自我调整，这个过程就是learning

机器学习是在对数据进行有意义地变换，因此需要找到一种有力的数据的表示representation方法

即经过坐标变换后的数据的新的表示，能够更容易的进行分类任务

机器学习则是自动搜索有用的表示方法，并用评价指标作为反馈进行调整，使之能够用简单的规则完成任务

搜索预定义的一组操作，即假设空间hypothesis space

searching for useful representations and rules over some input data, within a predefined space of possibilities, using guidance from a feedback signal.

在预先定义好的可能性空间中，利用反馈信号的指引来寻找输入数据的有用表示

Deep Learning

deep指的是连续的表示层，即深度学习代表了一种“分层表示”的思想

深度学习一般包括数十个甚至上百个层，而其它机器学习方法通常只有一两层，叫做浅层学习

一般是通过神经网络模型来学习得到这些分层的

a multistage way to learn data representations

学习数据表示的多级方法

一个层对输入的操作体现在其权重上面，权重就是这个层的参数，神经网络就是寻找合适的参数

评价指标是loss fuction，通过loss衡量与理想结果的距离作为反馈进行调整，把这个调整操作看做一个优化器来做的

而优化器做的调整，就是梯度下降算法，是这个让神经网络有了强大的生命力，这种算法的来由另一篇帖子就讲过了

其它机器学习算法

机器学习不只有深度学习这一种，还有很多其它的模型