1982.在深度学习中,什么是批量标准化?

题目解析： 题干：在深度学习中，什么是批量标准化？ 正确答案：C：在每个神经网络层中标准化数据 解析： 批量标准化（Batch Normalization，简称BN）是一种在深度神经网络中广泛应用的技术，其核心思想是在训练过程中对每一层的输入进行标准化处理，使得每层的输入分布保持稳定，从而加速训练过程并提升模型性能。 选项分析： A：将输入数据标准化到均值为0，方差为1 该描述仅部分正确。虽然批量标准化确实会将数据标准化为均值接近0、方差接近1，但这一操作不仅限于输入数据，而是应用于网络中间各层的输出。因此该选项描述不全面，忽略了“在网络层中”这一关键点。 B：在每个训练批次中标准化数据 该描述看似合理，因为“批量”确实指代的是每个小批量（mini-batch）数据。然而，该选项未明确指出标准化是作用于网络中的哪一部分。仅仅说“在每个训练批次中标准化数据”过于笼统，不能准确反映批量标准化的本质——即对每一层的激活值进行标准化。 C：在每个神经网络层中标准化数据 这是正确答案。批量标准化的核心是在每一个神经网络层的激活输出上进行标准化操作，通常是在全连接层或卷积层之后、激活函数之前（或之后）插入BN层。它对每个小批量数据在该层输出的特征通道进行均值和方差的计算，并进行归一化，再通过可学习的缩放和平移参数（γ 和 β）恢复表达能力。这种做法有效缓解了内部协变量偏移（Internal Covariate Shift）问题，加快收敛速度，并具有一定的正则化效果。 D：通过正则化技术来防止过拟合 虽然批量标准化在实践中表现出一定的抑制过拟合的效果（因其引入了轻微噪声），但其主要目的并非正则化，而是稳定训练过程、提高训练速度。专门用于防止过拟合的技术包括Dropout、L2正则化等。因此该选项混淆了主要功能与次要效应。 核心知识点讲解： 1. 内部协变量偏移（Internal Covariate Shift）： 指在深度网络训练过程中，由于前面层的参数不断更新，导致后面层输入的分布持续变化，从而降低训练效率。批量标准化通过标准化每层的输入分布来缓解这一问题。 2. 批量标准化的计算步骤（以一个特征通道为例）： - 计算当前小批量数据的均值：μ_B = (1/m) Σ x_i - 计算方差：σ²_B = (1/m) Σ (x_i − μ_B)² - 标准化：x_hat_i = (x_i − μ_B) / √(σ²_B + ε) - 缩放和平移：y_i = γ × x_hat_i + β 其中 γ 和 β 是可学习参数，用于保留网络的表达能力。 3. 优点： - 允许使用更高的学习率； - 减少对初始化的敏感性； - 具有一定的正则化效果； - 加快模型收敛。 综上所述，正确答案为 C：在每个神经网络层中标准化数据。