1.3.1 前馈神经网络

给定一个前馈神经网络，利用下面的符号来描述该网络。

•f_l（·）：表示第l层神经元的激活函数。

•：表示第l-1层到第l层的权重矩阵。

•：表示第l-1层到第l层的偏置。

•：表示第l层神经元的状态。

•：表示第l层神经元的活性值。

前馈神经网络通过式（1-1）和式（1-2）进行信息传播：

式（1-1）和式（1-2）可以合并为：

通过逐层的前馈传播，得到网络最后的输出aL：