批量大小(Batch Size)是神经网络训练时单次迭代送入模型的样本数量,其核心构成包括每步样本批次、梯度累积与显存占用权衡,解决的是训练速度、梯度噪声与显存容量难以兼顾的问题,并不解决大批量训练收敛变慢与学习率需要重新调整的问题。
批量大小是什么?
批量大小(Batch Size)是神经网络训练时单次迭代送入模型的样本数量,其核心构成包括每步样本批次、梯度累积与显存占用权衡,解决的是训练速度、梯度噪声与显存容量难以兼顾的问题,并不解决大批量训练收敛变慢与学习率需要重新调整的问题。
🔗 本文链接