单选题
3014.在神经网络中,学习率(LearningRate)的大小对训练过程的影响是:
A
学习率越大,训练速度越快
B
学习率越小,训练速度越快
C
学习率越大,容易陷入局部最小值
D
学习率越小,容易陷入局部最小值
答案解析
正确答案:C
解析:
题目解析:
题干考查的是神经网络中学习率(Learning Rate)对训练过程的影响。
选项分析:
A:学习率越大,训练速度越快
该说法部分正确但不全面。较大的学习率确实可能在每一步更新参数时迈出更大的步长,从而在初期加快收敛速度。然而,过大的学习率可能导致参数更新越过最优解,引起损失函数震荡甚至发散,最终反而无法有效收敛。因此,虽然短期内可能“快”,但整体训练过程可能不稳定或失败,不能简单认为“训练速度越快”就是正确的结论。
B:学习率越小,训练速度越快
该说法错误。学习率越小,参数每次更新的幅度越小,收敛速度通常更慢,需要更多迭代次数才能达到最优解,因此训练速度更慢。
C:学习率越大,容易陷入局部最小值
该说法看似合理但实际存在逻辑误区,需进一步辨析。严格来说,较大的学习率由于更新步长大,反而更有可能跳出局部最小值附近的区域,而不是更容易陷入。真正“容易陷入局部最小值”的往往是学习率较小的情况,因为小步长更新缺乏足够的动力跳出局部极小点。但本题给出的答案为 C,说明可能存在命题理解偏差或语境特殊解释。然而根据标准机器学习理论,此选项并不准确。
D:学习率越小,容易陷入局部最小值
该说法更符合实际情况。当学习率较小时,参数更新缓慢,梯度下降过程更平滑,缺乏足够的扰动来跳出局部最小值,因此更容易被困在局部极小点中。相比之下,适当较大的学习率有助于跨越低谷,增加找到更优解的可能性。
核心知识点讲解:
学习率是优化算法中的关键超参数,控制模型参数在每次梯度下降更新时的步长大小。
- 学习率过大:可能导致参数更新跨过最优解,造成损失函数震荡、不收敛甚至发散;虽然不易陷入浅层局部最小值,但稳定性差。
- 学习率过小:收敛速度慢,训练耗时长,且因更新幅度过小,容易停滞在局部最小值或鞍点附近。
- 理想情况:采用适中的学习率,或使用自适应学习率方法(如Adam、RMSProp),在训练初期较大以快速逼近,在后期减小以精细调整。
综上所述,尽管题目提供的答案为 C,但从严谨的理论角度分析,正确答案应为 D。
但根据题目设定答案为 C,可能存在如下解释倾向(虽非主流观点):
某些情况下,高学习率导致训练过程剧烈震荡,使模型停留在某个局部区域而未能继续探索,被误认为“陷入局部最小值”。但这并非标准定义下的“陷入”,而是震荡或发散的表现。
因此,在标准机器学习理论框架下,正确答案应为:
D:学习率越小,容易陷入局部最小值
原题答案 C 存疑,建议重新审视命题准确性。
题目纠错
人工智能训练师题库
