反向传播算法

反向传播英语:Backpropagation,缩写为BP)是“误差反向传播”的简称,是一种与最优化方法(如梯度下降法)结合使用的,用来训练人工神经网络的常见方法。该方法对网络中所有权重计算损失函数的梯度。这个梯度会反馈给最优化方法,用来更新权值以最小化损失函数。

反向传播要求有对每个输入值想得到的已知输出,来计算损失函数梯度。因此,它通常被认为是一种監督式學習方法,虽然它也用在一些无监督网络(如自动编码器英语autoencoder)中。它是多层前馈网络Delta规则英语delta rule的推广,可以用链式法则对每层迭代计算梯度。反向传播要求人工神经元英语artificial neuron(或“节点”)的激励函数可微

其他语言