什么是神经网络？

提到人工神经网络，经常会有图 1 所示的图。一般情况下，我们都会将此神经网络与生物学上的人的神经元联系起来。这样虽然很形象，但是不利于深入理解。因为这样一来就很难将神经网络和数学联系起来。那么神经网络的数学解释是什么呢？

图1：神经网络
 

神经网络本质上是逻辑回归类型函数的组合，所以理解神经网络的关键就是理解逻辑回归。前面介绍了线性回归，然后讲解了逻辑回归，现在将讲解神经网络，这三者是一个从浅入深的过程。

逻辑回归就是浅层的神经网络（参见《逻辑回归算法》）。我们可以理解为，逻辑回归算法就是一个一层的神经网络，如图 2 所示。

图2：神经网络与逻辑回归
 

假设有如下的神经元，如图 3 所示。

图3：神经网络样例

那么逻辑回归就是其中的一个节点，如图 4 所示。

图4：逻辑回归与神经网络的关系