本文是《Neuralnetworksanddeeplearning》概览中第三章的一部分，讲机器学习算法中，怎样选取初始的超參数的值。（本文会不断补充）运用梯度下降算法进行优化时。权重的更新规则中，在梯度项前会乘以一个系数，这个系数就叫学习速率η。以下讨论在训练时选取η的策略。固定的学习速率。假设学习速率太小，则会使收...