#Covariate

Batch Normalization:Accelerating Deep Network Training by Reducing Internal Covariate Shift(BN)

internalcovariateshift(ics):训练深度神经网络是复杂的,因为在训练过程中,每层的输入分布会随着之前层的参数变化而发生变化。所以训练需要更小的学习速度和careful参数初始化,这将减缓训练的速度。bn的目的就是解决ics我们知道在神经网络训练开始前,都要对输入数据做一个归一化处理,那么具体为什...